【发布时间】:2019-04-10 20:57:50
【问题描述】:
使用scrapy的一些网站不提供完整的html代码,即。 https://www.amazon.de/Warner-Bros-5051891109537-GIOCO-MOVIE/dp/B00HR6RHBK
我尝试获取所有商品列表的链接 (https://www.amazon.de/gp/offer-listing/B00HR6RHBK/ref=dp_olp_new?ie=UTF8&condition=new)
Scrapy 就是找不到它。
尝试:
$scrapy shell "https://www.amazon.de/Warner-Bros-5051891109537-GIOCO-MOVIE/dp/B00HR6RHBK"
print(response.xpath("//a[contains(@href, 'new')]/@href"))
结果:
[]
【问题讨论】: