python、lxml 和 xpath - html 表解析

Question

我是 lxml 新手，对 python 很陌生，找不到以下解决方案：

我需要从第 3 行开始导入一些具有 3 列和未定义行数的表。

当任何一行的第二列为空时，该行被丢弃，表的处理被中止。

以下代码可以很好地打印表格的数据（但之后我无法重用数据）：

from lxml.html import parse

def process_row(row):  
    for cell in row.xpath('./td'):  
        print cell.text_content()  
        yield cell.text_content()  

def process_table(table):  
    return [process_row(row) for row in table.xpath('./tr')]

doc = parse(url).getroot()  
tbl = doc.xpath("/html//table[2]")[0]  
data = process_table(tbl)  

这只会打印第一列:(

for i in data:  
    print i.next()

下面只导入第三行，后面不导入

tbl = doc.xpath("//body/table[2]//tr[position()>2]")[0]

任何人都知道一个奇特的解决方案，将所有数据从第 3 行获取到 tbl 并将其复制到一个数组中，以便可以将其处理成一个不依赖 lxml 的模块？

提前感谢您的帮助，亚历克斯

Answer 1

您需要使用循环来访问该行的数据，如下所示：

for row in data:  
    for col in row:
        print col

像你一样调用 next() 一次只会访问第一项，这就是你看到一个列的原因。

请注意，由于生成器的性质，您只能访问它们一次。如果您将调用 process_row(row) 更改为 list(process_row(row))，生成器将被转换为可以重复使用的列表。

更新：如果您只需要第 3 行，请使用 data[2:]

Answer 2

这是一个生成器：

def process_row(row):  
     for cell in row.xpath('./td'):  
         print cell.text_content()  
         yield cell.text_content() 

您在调用它时就好像您认为它会返回一个列表。它没有。在某些情况下，它的行为就像一个列表：

print [r for r in process_row(row)]

但这只是因为生成器和列表都向for 循环公开了相同的接口。在只评估一次的上下文中使用它，例如：

return [process_row(row) for row in table.xpath('./tr')]

只需为row 的每个新值调用一次生成器的新实例，返回第一个产生的结果。

所以这是你的第一个问题。你的第二个是你所期待的：

tbl = doc.xpath("//body/table[2]//tr[position()>2]")[0]

为您提供第三行和所有后续行，并且仅将tbl 设置为第三行。好吧，对xpath 的调用 返回第三行和所有后续行。是最后的[0] 搞砸了你。