2016-07-26 49 views
1

我想使用Scrapy來抓取網站,但是網站URL並未更改,頁面使用Java腳本加載。使用Scrapy從使用java腳本生成數據的網站獲取信息

這是怎樣的網站,網址看之前,我進行搜索: image 1

這是網站和網址看後要如何進行搜索: image 2

我怎樣才能得到的數據從使用Scrapy的網站提供這些條件?

+0

你必須找出使用javascript進行的請求(也許你自己也可以用scrapy做),否則你將不得不使用像硒這樣的東西。我們推薦[splash](https://github.com/scrapinghub/splash) – eLRuLL

+0

我可以使用瀏覽器來查找正在進行的請求嗎? @eLRuLL –

+0

這就是splash和selenium所做的,他們模仿光瀏覽器。 – eLRuLL

回答

0
  • 您需要分析網站如何加載數據。 也許你可以閱讀URL和HTTP標題。
  • 使用一些工具(如POSTman)來模擬加載數據的過程。
  • 使用scrapy來實現該過程。