2016-06-19 90 views
0

我已經寫代碼從網站獲取一個表,但我需要通過訪問附加表:選擇下拉選項,並提交表單

  1. 從下拉列表中選擇一個時間框架。
  2. 通過點擊「過濾器」按鈕進行提交。

的網址是:

http://www.myfxbook.com/forex-market/currencies/nzdchf-historical-data

檢查的下拉元素顯示這一點:

<select id="timeScales" class="selectField" onfocus="borderChange(this); "onblur="borderReturn(this);" style="border: 1px solid rgb(226, 225, 225);"> 
<option id="timeScale1" value="1">1 Minute</option> 
<option id="timeScale5" value="5">5 Minutes</option> 
<option id="timeScale15" value="15">15 Minutes</option> 
<option id="timeScale30" value="30">30 Minutes</option> 
<option id="timeScale60" value="60">1 Hour</option> 
<option id="timeScale240" value="240">4 Hours</option> 
<option id="timeScale1440" value="1440" selected="">1 Day</option> 
<option id="timeScale10080" value="10080">1 Week</option> 
<option id="timeScale43200" value="43200">1 Month</option> 

從時間範圍下拉列表中,我要選擇4個小時,然後點擊過濾按鈕。

我知道如何使用requests.get方法獲取HTML,但是我在這裏遇到的問題是,當我選擇下拉值時,URL不會更改。

我嘗試過使用requests.post,但我顯然不知道如何使用它。 我正在使用「如何使用PYTHON自動創建內容」作爲教程編寫此程序,作者不解釋如何以編程方式單擊下拉菜單並單擊按鈕。

他的確解釋了硒的使用,但是我必須重複這個過程30次以上,並且每次打開一個新頁面都需要很長時間。

如果您能夠展示如何使用請求模塊(如果可能)來實現這一點,我將不勝感激。

回答

4

不能點擊與請求按鈕,你可以做的是,得到的數據,當你選擇一個時間段點擊過濾器的AJAX請求時模仿請求:

enter image description here

所以以模仿並獲得HTML,我們需要通過下面的PARAMS:

import requests 

params = {"start": "2016-02-02 00:00", 
      "end": "2016-06-20 00:00", 
      "symbol": "NZDCHF", 
      "timeScale": "240", 
      "userTimeFormat": "0"} 
head = { 
    "User-Agent": "Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/51.0.2704.84 Safari/537.36", 
    "X-Requested-With": "XMLHttpRequest"} 

url = "http://www.myfxbook.com/getHistoricalDataByDate.json" 
js = requests.get(url, params=params, headers=head).json() 

然後拿到桌子上,訪問js["content"]["historyData"]

print(js["content"]["historyData"]) 

,讓你的表格:

<table id="symbolMarket" class="sortable maxWidth center dataTable"> 
    <tr style="height:26px"> 
     <th sort="string"> 
      <a class="dotted font11 pointer">Date</a><span id="symbolMarketImg0"></span> 
     </th> 
     <th><span class="font11">Open</span></th> 
     <th><span class="font11">High</span></th> 
     <th><span class="font11">Low</span></th> 
     <th width="63"><span class="font11">Close</span></th> 
     <th sort="float" > 
      <a class="dotted font11 pointer">Change (Pips)</a><span id="symbolMarketImg5"></span> 
     </th> 
     <th sort="float" > 
      <a class="dotted font11 pointer">Change (%)</a><span id="symbolMarketImg6"></span> 
     </th> 
    </tr> 
       <tr onmouseover="this.className='normalActive';" onmouseout="this.className='';"> 
      <td><span name="timeNZDCHF">Jun 20, 2016 00:00</span></td> 
      <td><span name="openNZDCHF">0.67771</span></td> 
      <td><span name="highNZDCHF">0.68133</span></td> 
      <td><span name="lowNZDCHF">0.67771</span></td> 
      <td><span name="closeNZDCHF">0.68057</span></td> 
      <td class="bold"><span name="changePipsNZDCHF"><span class='green'>+28.6</span></span></td> 
      <td class="bold"><span name="changePercentNZDCHF"><span class='green'>+0.42%</span></span></td> 
     </tr> 

    ...................................... 

你可以簡單地分析,原來的頁面使用Beautifulsoup獲得來自標籤的值:

In [7]: from bs4 import BeautifulSoup 

In [8]: h = """<select id="timeScales" class="selectField" onfocus="borderChange(this); "onblur="borderReturn(this);" style="border: 1px solid rgb(226, 225, 225);"> 
    ...: <option id="timeScale1" value="1">1 Minute</option> 
    ...: <option id="timeScale5" value="5">5 Minutes</option> 
    ...: <option id="timeScale15" value="15">15 Minutes</option> 
    ...: <option id="timeScale30" value="30">30 Minutes</option> 
    ...: <option id="timeScale60" value="60">1 Hour</option> 
    ...: <option id="timeScale240" value="240">4 Hours</option> 
    ...: <option id="timeScale1440" value="1440" selected="">1 Day</option> 
    ...: <option id="timeScale10080" value="10080">1 Week</option> 
    ...: <option id="timeScale43200" value="43200">1 Month</option>""" 

In [9]: soup = BeautifulSoup(h,"html.parser") 

In [10]: durations = ([opt["value"] for opt in soup.select("#timeScales option")]) 

In [11]: durations 
Out[11]: [u'1', u'5', u'15', u'30', u'60', u'240', u'1440', u'10080', u'43200'] 

但我不看到背後的邏輯,因爲持續時間在幾分鐘內,您需要知道數據的持續時間。