2014-03-12 84 views

回答

7

Twitter使用的Twitterbot用戶代理(與版本,如Twitterbot/1.0)爬行網頁時發現Twitter信息卡標記。如果您需要創建例外情況,則Twitter的抓取工具在掃描URL時會尊重robots.txt

閱讀更多關於Twitter Cards URL Crawling & Caching