【问题标题】:Best way to identify googlebot识别 googlebot 的最佳方法
【发布时间】:2011-12-14 19:46:34
【问题描述】:

识别 Googlebot 抓取工具的最可靠、最快捷的方法是什么? rDNS 可以被欺骗,因此 googlebot ip 列表看起来是最可靠的方法。是否有任何站点/资源可以获取实际的 googlebot ips?欢迎任何其他想法。

【问题讨论】:

  • 为什么需要识别?您应该像对待任何其他客户端一样对待 GoogleBot。
  • 对于黑帽 seo,还有什么... ;D.

标签: php googlebot identify


【解决方案1】:

Google bot 使用以下范围 -

  • 203.208.60.0/24,
  • 66.249.64.0/20,
  • 2001:4860:4801:2:6b00:6006:1300:b075,
  • 2001:4860:4801:5:1000:6006:1300:b075,
  • 2001:4860:4801:6:e300:6006:1300:b075,
  • 2001:4860:4801:2001::6006:1300:b075,
  • 2001:4860:4801:2002::6006:1300:b075

更多信息在这里-

http://myip.ms/info/bots/Google_Bing_Yahoo_Facebook_etc_Bot_IP_Addresses.html

【讨论】:

    【解决方案2】:

    如果您真的想对 IP 进行硬编码(我不推荐它,因为它可以随时更改,恕不另行通知),有一个可用的列表 here。我会推荐(以及推荐on Goggle Webmaster's blog)是你做一个反向DNS,然后一个正向DNS 来验证这一点。这应该始终有效,并且不能被欺骗。

    【讨论】:

      猜你喜欢
      • 2015-09-27
      • 2016-06-10
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2012-08-05
      • 1970-01-01
      • 2014-05-12
      • 1970-01-01
      相关资源
      最近更新 更多