0
例如,如果這是在Apache的設置中設置:優先X-機器人-Tag HTTP標頭的VS的robots.txt
<IfModule mod_headers.c>
Header set X-Robots-Tag "noindex, nofollow"
</IfModule>
並且這在robots.txt文件設置:
User-agent: *
Allow:/
哪一個會優先?
例如,如果這是在Apache的設置中設置:優先X-機器人-Tag HTTP標頭的VS的robots.txt
<IfModule mod_headers.c>
Header set X-Robots-Tag "noindex, nofollow"
</IfModule>
並且這在robots.txt文件設置:
User-agent: *
Allow:/
哪一個會優先?
這些是不同的指令,所以你的查詢是無效的。這裏的robots.txt文件允許抓取並且x-robots-tag控制索引。
但如果你已經顯示一些東西,有相同的指令,但在不同的格式,那麼這將是(Googlebot抓取至少)最嚴格的將被注意的情況。
[是否有利用X機器人標籤代替的robots.txt的任何好處?(http://stackoverflow.com/q/35639040/1591669) – unor