【发布时间】:2020-03-18 05:55:45
【问题描述】:
我在 Internet 上多次看到此主题,但从未见过一个完整、全面的解决方案,该解决方案可以使用当前库版本的 sklearn 全面适用于所有用例。有人可以尝试使用以下示例解释如何实现吗?
In this example I'm using the following dataset
data = pd.read_csv('heart.csv')
# Preparing individual pipelines for numerical and categorical features
pipe_numeric = Pipeline(steps=[
('impute_num', SimpleImputer(
missing_values = np.nan,
strategy = 'median',
copy = False,
add_indicator = True)
)
])
pipe_categorical = Pipeline(steps=[
('impute_cat', SimpleImputer(
missing_values = np.nan,
strategy = 'constant',
fill_value = 99999,
copy = False)
),
('one_hot', OneHotEncoder(handle_unknown='ignore'))
])
# Combining them into a transformer
transformer_union = ColumnTransformer([
('feat_numeric', pipe_numeric, ['age']),
('feat_categorical', pipe_categorical, ['cp']),
], remainder = 'passthrough')
# Fitting the transformer
transformer_union.fit(data)
# We can then apply and get the data in the following way
transformer_union.transform(data)
# And it has the following shape
transformer_union.transform(data).shape
现在主要问题来了:如何有效地将输出的 numpy 数组与所有转换产生的新列名结合起来?这个例子虽然需要相当多的工作,但仍然相对简单,但如果管道更大,这可能会变得更加复杂。
# Transformers object
transformers = transformer_union.named_transformers_
# Categorical features (from transformer)
transformers['feat_categorical'].named_steps['one_hot'].get_feature_names()
# Numerical features (from transformer) - no names are available?
transformers['feat_numeric'].named_steps['impute_num']
# All the other columns that were not transformed - no names are available?
transformers['remainder']
我已经检查了各种不同的示例,但似乎没有任何灵丹妙药:
sklearn 本身不支持这一点 - 无法获得可以轻松与数组组合成新 DF 的列名对齐向量,但也许我弄错了 - 谁能指出我如果是这样的话,资源?
有些人正在实施他们的自定义转换器/管道,但是当您想要构建大型管道时,这会有点忙
是否有任何其他与 sklearn 相关的软件包可以缓解该问题?
我对 sklearn 的管理方式感到有些惊讶 - 在 tidymodels 生态系统中的 R 中(它仍在开发中,但尽管如此),使用 prep 和 bake 方法很容易处理。我想它可以以某种方式类似地完成。
全面检查最终输出对于数据科学工作至关重要 - 有人可以就最佳路径提出建议吗?
【问题讨论】:
标签: python pandas scikit-learn