使用特定列在 scikit-learn 中估算分类缺失值

Question

我有患者数据集，我想处理这些数据的缺失值，它包含数字和文本，我想根据主题 ID 处理的想法。不仅基于列替换 数据集是这样的

 subject_id     time      heart_rate      blood_pressure    urine_color 
   1             1.10          23              60                red
   1              2                            40                
   2             3             60              80              
   2             4                                            dark yellow 

我想用最常见的病人数据替换文本数据，用病人的平均值替换数字，就像这样

 subject_id     time      heart_rate      blood_pressure    urine_color 
   1             1.10          23              60                red
   1              2            23              40                red
   2             3             60              80              dark yellow 
   2             4             60              80              dark yellow

任何人都可以在这方面提供帮助，我搜索的所有估算方法，列中最常用的方法，或整个列的统计分析

Answer 1

将GroupBy.transform 与自定义函数一起用于mean 与数字列和mode 用于分类列并用DataFrame.fillna 替换缺失值：

f = lambda x: x.mean() if np.issubdtype(x.dtype, np.number) else x.mode().iat[0]

如果可能，每个组的分类列的所有 NaNs 值的替代方案：

f = lambda x: x.mean() if np.issubdtype(x.dtype, np.number) else next(iter(x.mode()), None)

---

cols = df.columns.difference(['subject_id'])
df[cols] = df[cols].fillna(df.groupby('subject_id')[cols].transform(f))
print (df)
   subject_id time  heart_rate  blood_pressure  urine_color
0           1  1.1          23              60          red
1           1    2          23              40          red
2           2    3          60              80  dark yellow
3           2    4          60              80  dark yellow