0
添加屏蔽網址我想只允許這些URL閱讀mysite的在robots.txt規則,
example.com/site/faq
example.com/site/blog
example.com/site/aboutus
所有其他網址都需要被封鎖的機器人,有什麼規則?由於
添加屏蔽網址我想只允許這些URL閱讀mysite的在robots.txt規則,
example.com/site/faq
example.com/site/blog
example.com/site/aboutus
所有其他網址都需要被封鎖的機器人,有什麼規則?由於
我想你要找的是什麼:
User-agent: *
Allow: /site/faq
Allow: /site/blog
Allow: /site/aboutus
Disallow: *
這特別允許你提到的三個文件夾,並禁止一切。