机器人symfony中的noindex或disallow

Question

我正在使用 Symfony 1.4，并且我想在我的网站中停用 Google 的索引，我必须使用的最佳代码是什么？

• 机器人：无索引，无关注
• 机器人：不允许

Answer 1

看看here

User-agent: *
Disallow: /

Answer 2

他们做different的事情：

• 通过使用 robots.txt，您可以禁止抓取您的网站。

• 通过使用meta-robots 元素，您可以禁止索引您的网站。

如果你想要一个，你 can’t 有另一个。

所以你必须做出决定：

• Googlebot 永远不应访问您的网址，但它可能会将您的网址编入索引（从不同来源了解它们）：使用 robots.txt。
• Googlebot 绝不应该将您的网址编入索引，但它可能会访问它们：使用 meta-robots。