嶺迴歸的置信區間

Question

我不能在嶺迴歸中做置信區間。我有這個模型。

model5 <- glmnet(train_x,train_y,family = "gaussian",alpha=0, lambda=0.01) 

當我做了預測我使用這些命令：

test_pred <- predict(model5, test_x, type = "link") 

有人知道如何做預測的置信區間？

Answer 1

事實證明，glmnet不提供標準誤差（因此不給你置信區間）作爲解釋here，還涉及在此vignette（以下節選）：

這是一個非常自然的問題要求迴歸的標準誤差 係數或其他估計量。原則上，這種標準的錯誤可以很容易地計算出來，例如，使用bootstrap。

但是，這個 包故意不提供它們。對此的原因是 ，標準誤差對強烈偏向 估計（如由懲罰性估計方法產生）沒有太大意義。處罰 估計是一種程序，可減少估計量的方差 引入大量偏差。因此，每個估計量的偏差是其均方誤差的主要組成部分，而其方差可能只有一小部分。

不幸的是，在大多數 懲罰性迴歸中，不可能獲得足夠精確的偏差估計。任何基於引導程序的計算只能給出估計方差的評估。 的可靠估計值偏差僅在可用的無偏估計值爲 可用時纔可用，而在使用 懲罰性估計值的情況下通常不會出現這種情況。

舉報 懲罰性估計的標準錯誤因此只告訴部分故事。它可以給 一個很高的精確度的錯誤印象，完全忽略了偏見​​造成的不準確。制定 置信度聲明當然是錯誤的，這些置信度聲明僅基於評估 估計方差，例如基於引導程序的置信度 區間。

圍繞懲罰 估計可靠的置信區間可以使用 標準廣義線性模型理論作爲LM，GLM 和coxph實現低維模型的情況下獲得。據我所知，構建可靠置信區間的方法在高維情況下是不可用的。

但是，如果您堅持置信區間，請檢查出this後。