pandas：合并（内连接）数据框的行数比原始行数多

Question

我在 Jupyter Notebook 上使用 python 3.4，尝试合并两个数据框，如下所示：

df_A.shape
(204479, 2)

df_B.shape
(178, 3)

new_df = pd.merge(df_A, df_B,  how='inner', on='my_icon_number')
new_df.shape
(266788, 4)

我认为上面合并的new_df 的行数应该比df_A 少，因为合并就像一个内部连接。但是为什么new_df 这里的行数实际上比df_A 多？

这是我真正想要的：

我的df_A 是这样的：

 id           my_icon_number
-----------------------------
 A1             123             
 B1             234
 C1             123
 D1             235
 E1             235
 F1             400

而我的df_B 是这样的：

my_icon_number    color      size
-------------------------------------
  123              blue      small
  234              red       large 
  235              yellow    medium

那么我希望new_df 成为：

 id           my_icon_number     color       size
--------------------------------------------------
 A1             123              blue        small
 B1             234              red         large
 C1             123              blue        small
 D1             235              yellow      medium
 E1             235              yellow      medium

我真的不想删除 df_A 中 my_icon_number 的重复项。知道我在这里错过了什么吗？

Answer 1

因为您在两个数据集中都有重复的合并列，您将获得具有该合并列值的 k * m 行，其中 k 是数据集 1 和 m 中具有该值的行数是数据集 2 中具有该值的行数。

试试drop_duplicates

dfa = df_A.drop_duplicates(subset=['my_icon_number'])
dfb = df_B.drop_duplicates(subset=['my_icon_number'])

new_df = pd.merge(dfa, dfb, how='inner', on='my_icon_number')

---

示例

在这个例子中，唯一的共同值是4，但我在每个数据集中都有 3 次。这意味着我应该在结果合并中得到 9 行，每个组合一个。

df_A = pd.DataFrame(dict(my_icon_number=[1, 2, 3, 4, 4, 4], other_column1=range(6)))
df_B = pd.DataFrame(dict(my_icon_number=[4, 4, 4, 5, 6, 7], other_column2=range(6)))

pd.merge(df_A, df_B,  how='inner', on='my_icon_number')

   my_icon_number  other_column1  other_column2
0               4              3              0
1               4              3              1
2               4              3              2
3               4              4              0
4               4              4              1
5               4              4              2
6               4              5              0
7               4              5              1
8               4              5              2