我有一個Django網站,它使用本地化中間件與gettext和trans/blocktrans模板標籤結合使用,根據用戶代理字符串中的首選語言向訪問者顯示不同的頁面(這似乎是標準的做事方式Django的)。搜索引擎如何查看本地化的Django網站?
這對於支持的語言(當前只有西班牙語,英語和德語會更多)纔有效。如果我在瀏覽器中將首選語言設置爲其他語言,我會獲得該翻譯的頁面。但是,我不知道它是如何出現在搜索引擎上的。
當一個搜索引擎抓取一個網站時,它的代理字符串中是否有首選語言?德國的蜘蛛會得到德國的網站,西班牙的蜘蛛會得到西班牙網站,還是隻有當用戶沒有語言設置時纔會顯示默認的英文網站?這是否因搜索引擎而異?是否有一種「標準方式」來處理單個爬蟲可能會或可能不會遵守的事情?