Python Pandas 多个搜索词

Question

使用：Python 3.7.3、Pandas 0.24.2

我正在使用 Pandas 数据框在 Python 中编写一些搜索功能。

我有一行代码可以搜索包含列表中所有关键字的结果：

processed = df.loc[(df.Keywords.str.contains("magnetic")) & (df.Keywords.str.contains("board")) & (df.Keywords.str.contains("white"))]

我需要使搜索词动态化，即根据包含任意数量单词的变量生成与该行等效的词。

我已经设法在正则表达式中对此进行了编码，但是它比使用上述方法要慢得多。我可以简单地传递一个搜索词，但不能传递可变数量的词。

我还必须考虑搜索词可能是部分的事实，即如果行包含“磁铁”等，则“agnet”的搜索词应该返回。

感激地收到任何选项。

澄清一下：

我已经尝试过使用类似的选项：

processed = df[df['Keywords'].str.contains('|'.join(search_list))]

不幸的是，这将返回包含任何搜索词的任何行。即磁性OR 板OR 白色。我需要返回包含 Magnetic AND Board AND White 的行。在亚马逊上搜索产品的图片，这将是最接近的比较。

以下建议的结果：

我已经使用以下代码测试了下面提供的选项：

search_terms = "磁性白板" search_terms = search_terms.lower() search_list = search_terms.split()

start_time = time.time()
processed = df.loc[(df.Keywords.str.contains("magnetic")) & (df.Keywords.str.contains("board")) & (df.Keywords.str.contains("white"))]
print("--- Original %s seconds ---" % (time.time() - start_time))

start_time = time.time()
mask = pd.concat([df['Keywords'].str.contains(x) for x in search_list], axis=1).all(axis=1)
processed = df[mask]
print("--- Concat %s seconds ---" % (time.time() - start_time))

start_time = time.time()
processed = df[np.logical_and.reduce([df['Keywords'].str.contains(x) for x in search_list])]
print("--- Numpy reduce %s seconds ---" % (time.time() - start_time))

在我使用的数据集上，我得到了以下结果：

--- Original 0.09292888641357422 seconds ---
--- Concat 0.09293532371520996 seconds ---
--- Numpy reduce 0.11991643905639648 seconds ---

因此，我选择使用 @jezrael 建议的 Concat DataFrame.all 方法。

非常感谢大家的支持。

Answer 1

尝试在列表中插入所有字符串并将 str.contains 与连接一起使用

list_str=['board', 'white', 'magnetic']
df = df[df['Keyword'].str.contains('|'.join(list_str))]

如果你想要最接近的匹配

results= df[np.logical_and.reduce([df['Keywords'].str.contains(x) for x in list_str])]

Answer 2

对列表理解中的所有掩码使用np.logical_and.reduce，然后过滤：

processed = df[np.logical_and.reduce([df['Keywords'].str.contains(x) for x in search_list])]

concat 和 DataFrame.all 的另一种解决方案：

mask = pd.concat([df['Keywords'].str.contains(x) for x in search_list], axis=1).all(axis=1)
processed = df[mask]

Answer 3

我会使用 numpy.logical_and 和 reduce 来做到这一点：

df = pd.DataFrame({'Keywords': ['whiteboard', 'white', 'board', 'magnetic whiteboard', 'magnet']})
search = ['white', 'board', 'magnet']

df[np.logical_and.reduce([(df.Keywords.str.contains(s)) for s in search])]

结果：

              Keywords
3  magnetic whiteboard

我没有测试过速度，但我认为与正则表达式解决方案相比，它会表现得很好。