【问题标题】:Unable to scrape data via request module - Fobidden无法通过请求模块抓取数据 - 禁止
【发布时间】:2015-01-21 01:35:10
【问题描述】:

我有一个奇怪的问题,我正在尝试使用请求模块废弃某些页面,但这样做时我得到 403 Access Denied。但是我完全能够使用 node 的 curl 模块来做到这一点。但是互联网上的人们建议它比请求模块更需要性能,因为我需要废弃很多类似的页面。 为什么我在使用请求模块时得到 403?

var options = {
  url: 'http://m.snapdeal.com/product/ostriva-antiglare-screen-protector-for/226500183',
  headers: {
    'User-Agent': 'Mozilla/5.0'
  }
}
router.get('/m', function(req, res) {
    request(options,function(err,resp,data){
        if(err){
          console.log(err);
          res.end();
          return;
        }
        console.log(resp.statusCode);
        res.send(data);
    });
});

【问题讨论】:

    标签: javascript node.js node-request


    【解决方案1】:

    服务器也在寻找Accept 标头。因此,请尝试将 'Accept': 'text/html;q=0.9,*/*;q=0.8', 之类的内容添加到您的 headers 对象中。

    【讨论】:

      猜你喜欢
      • 2021-12-27
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2018-06-13
      • 2020-06-28
      • 1970-01-01
      • 2020-04-27
      相关资源
      最近更新 更多