2015-02-26 42 views

回答

0

他們這樣做different事情:

  • 通過使用robots.txt,您可以禁止在您的網站上抓取

  • 通過使用meta - robots元素,您可以禁止你的站點的索引

如果你想要一個,你can’t有另一個。

所以,你必須決定:

  • 的Googlebot不應該訪問您的網址,但它可能索引你的網址(從不同的來源瞭解他們):請使用robots.txt。
  • 的Googlebot永遠不應該索引網址,但它可能會訪問他們:用meta - robots