使用readHTML從https網頁讀取表格HTML表格

我已安裝R 3.3.1並使用RStudio 0.99.903。我想從以下網址的表讀入R：https://www.fantasypros.com/nfl/rankings/consensus-cheatsheets.php 使用readHTML從https網頁讀取表格HTML表格

（我很清楚，有一個下載按鈕，不過，這不適合我現在的選項）

我去年使用readHTMLTable函數能夠輕鬆地完成這項工作。但是，那個時候，該網站從使用http更改爲https，導致「XML內容不是XML」錯誤。

我試了一下在這裏建議：get url table into a `data.frame` R-XML-RCurl

library(XML) 
library(RCurl) 
url <- getURL("https://www.fantasypros.com/nfl/rankings/consensus-cheatsheets.php") 
df <- readHTMLTable(URL, header = T)

的get URL函數返回一個大的字符串是基本無意義對我來說，這意味着readHTMLTable無法正常工作（我得到一個列表，用幾個數據幀，但這些也沒有意義對我來說這是一個在與西班牙的東西，我不知道他們來自哪裏觀察）：

>url 
[1] "\r\n<!DOCTYPE html>\n<html lang=\"en\">\n\n<head>\n <title>2016 QB Fantasy Football Rankings, QB Cheat Sheets, QB Draft/Draft Rankings</title>\n <meta http-equiv=\"Content-Type\" content=\"text/html; charset=UTF-8\">\n <meta name=\"description\" content=\"Don&#8217;t trust any 1 fantasy football expert? We combine their rankings into 1 Expert Consensus Ranking. Our 2016 Draft QB rankings are updated daily.\">\n<link rel=\"canonical\" href=\"https://www.fantasypros.com/nfl/rankings/qb-cheatsheets.php\" />\n\n <meta property=\"fb:pages\" content=\"184352014941166\"/>\n

它持續了相當長一段路了。

有人可以給我建議如何讓這個工作？

謝謝。

來源

2016-08-20 Mike Edinger

This This是近一年後，但你的代碼現在適用於R版本3.4.0修補程序（2017-05-02 r72649）下：Windows 10 x64（版本14393）使用RCurl 1.95-4.8，bithop 1.0-6和XML 3.98- 1.7除了在問題'URL'中的第四行代碼應該是'url'與第三行一致。 –

獲取HTML從

library("httr") 
library("XML") 
URL <- "https://www.fantasypros.com/nfl/rankings/consensus-cheatsheets.php" 
temp <- tempfile(fileext = ".html") 
GET(url = URL, user_agent("Mozilla/5.0"), write_disk(temp))

解析HTML文件

doc <- htmlParse(temp)

XPath查詢是通過與class = "player-table"並具有class = 'mpb-player-'

xpexpr <- "//table[contains(@class, 'player-table')]/tbody/tr[contains(@class, 'mpb-player-')]"

其子 tr元素選擇 table元素構建的URL文件

從文檔獲取節點列表XPath表達式

listofTableNodes <- getNodeSet(doc, xpexpr) 
listofTableNodes

創建節點列表的xmlvalues一個數據幀

df <- xmlToDataFrame(listofTableNodes, stringsAsFactors = FALSE) 
# alternatively xpathSApply can be used to get the same data frame 
# df <- xmlToDataFrame(xpathSApply(doc, xpexpr), stringsAsFactors = FALSE)

刪除空列

df <- df[, seq(1, length(df), by = 2)]

添加列名

xpexpr <- "//table[contains(@class, 'player-table')]/thead/tr/th" 
listofTableNodes <- getNodeSet(doc, xpexpr) 
listofTableNodes 
colnames(df) <- gsub("[\r\n ]*$", '', xmlSApply(listofTableNodes, xmlValue)) 

head(df) 
# Rank   Player (Team) Pos Bye Best Worst Avg Std Dev ADP vs. ADP 
# 1 1  Antonio Brown PIT WR1 8 1  5 1.3  0.8 1.0  0.0 
# 2 2 Odell Beckham Jr. NYG WR2 8 1  9 3.1  1.6 2.0  0.0 
# 3 3  Julio Jones ATL WR3 11 1  6 3.4  1.1 4.0 +1.0 
# 4 4  Todd Gurley LA RB1 8 1 11 4.5  2.3 3.0 -1.0 
# 5 5  David Johnson ARI RB2 9 1 19 6.1  3.5 6.0 +1.0 
# 6 6 Adrian Peterson MIN RB3 6 1 22 7.6  3.8 5.0 -1.0

來源

2016-08-20 22:26:14 Sathish

使用readHTML從https網頁讀取表格HTML表格

回答

相關問題