Python Web Scraping：与日历交互答案

【问题标题】：Python Web Scraping: Interacting with calendarPython Web Scraping：与日历交互
【发布时间】：2019-06-30 18:53:56
【问题描述】：

使用以下 url，我设法通过访问 iframe 对象来解析所有表格内容。

http://www.b3.com.br/en_us/market-data-and-indices/data-services/market-data/historical-data/derivatives/trading-session-settlements/

但是，我现在尝试与页面顶部的日历进行交互，但没有成功。这个想法是能够从单个 python 脚本中解析不同日期的数据。

任何帮助将不胜感激。

【问题讨论】：

" ...但没有成功。"
我不是 HTML 或 jacascript 方面的专家，所以我寻找有类似问题的人。我找到了这个stackoverflow.com/questions/49745973/… 但就我而言，当我更新日历中的日期时，我无法从网络上找到相同的请求。我不认为这种情况是必要的，因为我正在寻找解决我的问题的任何方法，而这似乎不是一个。

标签： javascript python html web-scraping beautifulsoup

【解决方案1】：

可以通过执行request.post() 并使用您需要的日期设置dData1 参数来获得所需的表格。例如，以下显示了如何显示两个可能的日期。它打印每个日期的前几行数据：

from bs4 import BeautifulSoup
import requests

url = 'http://www2.bmf.com.br/pages/portal/bmfbovespa/lumis/lum-ajustes-do-pregao-enUS.asp'
dates = ['02/01/2019', '01/03/2019']

for date in dates:
    req = requests.post(url, {'dData1' : date})
    soup = BeautifulSoup(req.content, "html.parser")

    print(f'\n{date}\n')

    for tr in soup.table.find_all('tr')[1:10]:
        row = [td.get_text(strip=True) for td in tr.find_all('td')]
        print(row)

这将显示以下内容，您可以使用它来进行处理：

02/01/2019

['AFS   - Futures', 'G19', '13,270.000', '13,270.000', '0.000', '0.00']
['', 'H19', '13,356.000', '13,353.100', '-2.900', '29.00']
['', 'J19', '13,407.300', '13,402.000', '-5.300', '53.00']
['', 'K19', '13,459.500', '13,455.200', '-4.300', '43.00']
['ARB   - Argentinian peso', 'G19', '98.4420', '98.4420', '0.0000', '0.00']
['', 'H19', '94.9590', '95.5790', '0.6200', '93.00']
['', 'J19', '92.1780', '92.5210', '0.3430', '51.45']
['', 'K19', '89.3970', '89.8380', '0.4410', '66.15']
['AUD   - Australian dollar', 'G19', '2,662.7830', '2,662.7830', '0.0000', '0.00']

01/03/2019

['AFS   - Futures', 'G19', '14,452.900', '14,332.500', '-120.400', '1,204.00']
['', 'H19', '14,499.900', '14,381.300', '-118.600', '1,186.00']
['', 'J19', '14,555.900', '14,435.000', '-120.900', '1,209.00']
['ARB   - Argentinian peso', 'G19', '97.5170', '96.1230', '-1.3940', '209.10']
['', 'H19', '92.8950', '91.4710', '-1.4240', '213.60']
['', 'J19', '89.9980', '88.7480', '-1.2500', '187.50']
['AUD   - Australian dollar', 'G19', '2,674.0940', '2,638.5800', '-35.5140', '2,130.84']
['', 'H19', '2,681.9240', '2,645.7490', '-36.1750', '2,170.50']
['', 'J19', '2,689.0940', '2,652.6630', '-36.4310', '2,185.86']

在输入日期时通过查看页面请求的 URL 找到正在使用的 URL。

【讨论】：