0
好吧,我有一個網站,其中有一系列的按鈕,它會調用一個API來返回有關產品的信息。我遇到的問題是,谷歌正在訪問和每10分鐘approximatley跟隨api,這意味着我每天都在做大量的查詢。停止谷歌跟隨我的api
我可以阻止谷歌機器人這樣做?
我有一個robots.txt文件,並沒有遵循元,但他們似乎並沒有太多。
任何意見,將不勝感激。
User-Agent: *
Disallow:/index/
Disallow /manufacturer/
我只注意到網頁沒有擴展名,即製造商應manufacturer.php
感謝
你有看到這個嗎? http://stackoverflow.com/questions/344697/googlebots-ignoring-robots-txt?rq=1 –
請發佈您的'robots.txt'文件內容。 –
此外,請訪問:http://support.google.com/webmasters/bin/answer.py?hl=zh-CN&answer=156449&from=35237&rd=1 –