【问题标题】:How to attribute to each elements of a sublist sharing comment elements the unique ID of the related sublist?如何为共享评论元素的子列表的每个元素赋予相关子列表的唯一 ID?
【发布时间】:2019-04-04 09:09:15
【问题描述】:

在由项目对组成的约 500k 行列表中,我正在尝试构建一个文件,旨在为每个项目分配与它们所属的组相关的 ID。 更多解释如下。

而且我需要一些帮助才能以一种智能有效的方式(即 pythonic)获得结果

==============

我想做什么

输入文件df0转换成想要的输出df2

例如,起始文件看起来像这样(但有 500k 条目),其中从 item1 到 item2 的关系由数据框的结构决定。

df0 : 输入

df0 = pd.DataFrame({
"item 1": ['Q', 'R', 'B', 'A'],
"item 2": ['R', 'P', 'A', 'C']
})

其内容如下:项目Q与项目R相关,项目R与项目P相关,因此项目Q与项目P相关(与A,B和C相同)。在这种情况下,关系的传递性导致构建两组项目。

  • 每个项目只属于一个组。
  • 在真实案例文件中,预计组最多可以容纳 11 个项目。
  • 字母顺序不起作用

感谢 stackoverflow 上的其他贡献,我设法将所有传递项分组到单个集合中,并为它们分配一个组号(或 ID)。这意味着我得到一个看起来像这样的数据框:

df1 = pd.DataFrame({
"items": [{'Q', 'R', 'P'}, {'B', 'A', 'C'} ],
"group": [1, 2]
})

现在要转换上面的结果以支持进一步的数据后处理,期望的结果应该如下所示:

df2:期望的输出

df2 = pd.DataFrame({
"items": ['Q', 'R', 'P', 'B', 'A', 'C' ],
"group": [1, 1, 1, 2, 2, 2 ]
})

==============

到目前为止我管理的内容

第一步:将df1.item转化为一系列单项

d = df1.item
e = list(sorted(set(chain.from_iterable(d))))
df2 = pd.DataFrame({'item':e})

第 2 步: 'vlookup' df2.items 通过 df1.items 返回 df1.group

df2['group'] = ''  

n = 0
for row in df2.items :
m = 0
for row in df1.items :
    if df2['items'][n] in df1['items'][m]:
        df2['group'][n] = df1['group'][m]
    m = m + 1
n = n + 1

==============

它适用于小型表,但不适用于大型数据框。

我现在正在寻求以下方面的帮助:

  • 第 2 步的更好代码以增强 df2 (首选)
  • 或者是跳过第 2 步并直接从 df1 中获取 df2 的更好方法

非常感谢您的宝贵时间和反馈!

【问题讨论】:

  • 1) R 是否与 B 相关? 2) 为什么要使用 DataFrames?
  • 1) 根据 df0,R 与 B 无关。否则我们将只有一组。 2) 我没有不使用 DataFrames 的限制,我愿意接受替代方案。

标签: python pandas performance networkx subgraph


【解决方案1】:

IIUC,您可以尝试查看networkx 库。

您可以直接从您的pandas.DataFrame 创建一个非直接网络图,并使用connected_component_subgraphs 方法提取子组:

import networkx as nx

df0 = pd.DataFrame({'item 1': {0: 'Q', 1: 'R', 2: 'B', 3: 'A'},
                    'item 2': {0: 'R', 1: 'P', 2: 'A', 3: 'C'}})

g = nx.convert_matrix.from_pandas_edgelist(df0, source='item 1', target='item 2')

使用列表推导为您的新 DataFrame 创建数据

subgroups = [(n, i + 1) for i, sg in enumerate(nx.connected_component_subgraphs(g)) for n in sg.nodes]

df2 = pd.DataFrame(subgroups, columns=['items', 'subgroup'])
print(df2)

  items  subgroup
0     P         1
1     R         1
2     Q         1
3     C         2
4     A         2
5     B         2

【讨论】:

  • 太棒了我刚刚在 Jupyter 中使用 ~400k 行文件进行了测试,它运行良好!非常感谢!
  • @ionah 乐于助人:)
猜你喜欢
  • 1970-01-01
  • 2023-03-19
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2018-07-05
  • 1970-01-01
  • 1970-01-01
相关资源
最近更新 更多