使用python和beautifulsoup在一组表格下选择一组特定的单元格

Question

1. 假设有 N 个网页。
2. 每个网页都有一个或多个表格。表的共同点是它们的类是相同的，考虑“table_class”。
3. 我们需要每个表的同一列[第三列，标题为标题]下的内容。
4. 内容含义，第三列所有行的href链接。
5. 有些行可能只是纯文本，有些行中可能包含 href 链接。

6. 您应该在单独的一行中打印每个 href 链接，一个接一个。

7. 使用属性过滤无效，因为某些标签具有不同的属性。单元格的位置是唯一可用的提示。

你是怎么编码的？

考虑网页的这两个链接：

http://en.wikipedia.org/wiki/List_of_Telugu_films_of_2014 http://en.wikipedia.org/wiki/List_of_Telugu_films_of_2013

考虑表格：wikitable

必填内容：列标题的href链接

我为一页尝试的代码：

from urllib.request import urlopen
from bs4 import BeautifulSoup, SoupStrainer


content = urlopen("http://en.wikipedia.org/wiki/List_of_Telugu_films_of_2015").read()  
filter_tag = SoupStrainer("table", {"class":"wikitable"})
soup = BeautifulSoup(content, parse_only=filter_tag)

for sp in soup.find_all('tr'):
    for bt in sp.find_all('td'):
        for link in bt.find_all('a'):
            print(link.get("href"))
    print()

Answer 1

这个想法是用wikitable 类迭代每个table；对于每个table 直接在i 标签内直接在td 内直接在tr 内查找链接：

import requests
from bs4 import BeautifulSoup

url = "http://en.wikipedia.org/wiki/List_of_Telugu_films_of_2014"
soup = BeautifulSoup(requests.get(url).content)

# iterate over tables
for table in soup.select('table.wikitable.sortable'):
    # get the table header/description, continue if not found
    h3 = table.find_previous_sibling('h3')
    if h3 is None:
        continue
    print h3.text

    # get the links
    for link in table.select('tr > td > i > a'):
        print link.text, "|", link.get('href', '')

    print "------"

打印（为了清楚起见还打印表名）：

January 2014–june 2014[edit]
Celebrity | /wiki/Celebrity
Kshatriya | /wiki/Kshatriya
1: Nenokkadine | /wiki/1:_Nenokkadine
...
Oohalu Gusagusalade | /wiki/Oohalu_Gusagusalade
Autonagar Surya | /wiki/Autonagar_Surya
------
July 2014 – December 2014[edit]
...
O Manishi Katha | /wiki/O_Manishi_Katha
Mukunda | /wiki/Mukunda
Chinnadana Nee Kosam | /wiki/Chinnadana_Nee_Kosam
------