【发布时间】:2011-10-16 12:47:59
【问题描述】:
我正在尝试在 bash 中编写一个爬虫来从 bing 下载图像。一切正常,除了 bing 在开始时只加载 30 张图片(使用无限滚动),因此我无法使用 wget 下载超过 30 张图片。
有什么解决方法可以一次从 bing 图片下载 30 多张图片。
-- 谢谢你的帮助。 :)
【问题讨论】:
我正在尝试在 bash 中编写一个爬虫来从 bing 下载图像。一切正常,除了 bing 在开始时只加载 30 张图片(使用无限滚动),因此我无法使用 wget 下载超过 30 张图片。
有什么解决方法可以一次从 bing 图片下载 30 多张图片。
-- 谢谢你的帮助。 :)
【问题讨论】:
Bing 有一个API,也许这比屏幕抓取更好用? Bing 肯定会比屏幕抓取更允许/支持它,并且随着时间的推移改变他们的产品,更不容易发生重大变化。
如果您出于某种原因确实设置了屏幕抓取,您可以尝试通过调试(例如使用 Firebug)加载页面并观察触发无限滚动时会发生什么。然后尝试用代码手动触发。
【讨论】: