【问题标题】:Creating a dataframe of Unique Values for each column from another DataFrame从另一个 DataFrame 为每列创建唯一值的数据框
【发布时间】:2021-06-15 17:47:01
【问题描述】:

我有一个包含 60 多列的数据框。其中,大约一半是分类的(非金额列)。不过,其中一些将分类数据存储为 1 和 0,因此如果数据类型为 NaN,则数据类型将为 int 或 float。

我需要创建一个新的数据框,将早期数据框中的选定列作为索引,并将唯一值作为列。

测试数据如下:

data = pd.DataFrame({'A':['A','B','C','A','B','C','D'],
                 'B':[1,0,1,0,1,0,1],
                 'C':[10,20,30,40,50,60,70],
                 'D':['Y','N','Y','N','Y','N','P']
                })

我这样做是为了从所有列中获取选定的列,并为每列获取唯一值。

cols = itemgetter(0,1,3)(data.columns)
uniq_stats = pd.DataFrame(columns=['Val'],index=cols)
for each in cols:
    uniq_stats.loc[each] = ';'.join(data[each].unique())

但是,对于那些数据是分类但存储在 1 和 0 中的列,以及那些有 Null 值的列,这将失败。

上述测试数据的预期结果:

    Val
A   A;B;C;D
B   1;0
D   Y;N;P

我应该怎么做才能得到这些? 我想 Null 值是否也包含在唯一值列表中。

【问题讨论】:

  • 你能添加你的预期输出吗?
  • 所以我尝试了 %timeit 所有这些替代方案。如果我只需要唯一值,我的版本似乎更适合我的数据集(100 万行和 60 列)。但是如果我需要从数据框中访问数据,iloc 就可以工作。

标签: python-3.x pandas dataframe distinct-values


【解决方案1】:

使用DataFrame.iloc按位置列,然后在DataFrame.agg中添加lambda函数:

df = data.iloc[:, [0,1,3]].agg(lambda x: ';'.join(x.astype(str).unique())).to_frame('Val')
print (df)
       Val
A  A;B;C;D
B      1;0
D    Y;N;P

类似的想法是只转换唯一值,所以应该更快:

df = data.iloc[:,[0,1,3]].agg(lambda x:';'.join(str(y) for y in x.unique())).to_frame('Val')
print (df)
       Val
A  A;B;C;D
B      1;0
D    Y;N;P

【讨论】:

    【解决方案2】:

    好的。我尝试了 map() 函数来做到这一点,我认为它有效。现在在唯一值列表中同时包含数字类别和 nan 值。

    cols = itemgetter(0,1,3)(data.columns)
    uniq_stats = pd.DataFrame(columns=['Val'],index=cols)
    for each in cols:
        uniq_stats.loc[each] = ';'.join(map(str,data[each].unique()))
    

    但是,如果有更好更快的方法,请分享。

    【讨论】:

      【解决方案3】:

      我认为您可以将.stack().groupby.unique() 一起使用

      selected_cols = ['A','B'] 
      s = data[selected_cols].stack(dropna=False).groupby(level=[1]).unique()
      s.to_frame('vals')
      
                 vals
      A  [A, B, C, D]
      B        [1, 0]
      

      另一种使用融化的方法。

      pd.melt(data).groupby('variable')['value'].unique()
      
      
      variable
      A                    [A, B, C, D]
      B                          [1, 0]
      C    [10, 20, 30, 40, 50, 60, 70]
      D                       [Y, N, P]
      Name: value, dtype: object
      

      【讨论】:

      • 您好,感谢您分享这些替代方案。我尝试了这些,它们确实适用于所有列。有什么方法可以将列选择纳入其中?对于有问题的测试数据,我不想包含“C”列。
      猜你喜欢
      • 1970-01-01
      • 1970-01-01
      • 2021-01-22
      • 2020-02-11
      • 2023-02-23
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多