2012-08-17 54 views
2

爬行一個緩慢的網站時,我總是得到錯誤:TCP連接超時:10060.我想這可能發生在爬蟲嘗試與服務器建立TCP連接並且默認連接超時過低時。如何在scrapy中設置TCP連接超時?

我知道下載超時可以在scrapy中設置,但我沒有找到設置連接超時的方法。有沒有人有一些想法?謝謝!

+0

什麼_connection_超時和_download_超時之間的區別來設置?藉助'DownloadTimeoutMiddleware','scrapy.resolver.CachingThreadedResolver'調用Twisted的'ThreadedResolver.getHostByName',其值爲settings.getint('DOWNLOAD_TIMEOUT')'。 – 2012-08-17 23:04:10

+0

@StevenAlmeroth如何設置'DOWNLOAD_TIMEOUT' – user2129794 2013-05-01 20:00:00

回答