LASSO適合scikit-learn - 獲得可能性

Question

我使用scikit-learn軟件包中的LASSO來優化懲罰線性迴歸問題的參數。我不僅對參數的最佳選擇感興趣，而且對數據關於優化參數的可能性感興趣。裝修後是否有一種簡單的方法來獲得完全可能性？

Answer 1

在最大可能框架下考慮lasso有點欺騙。先前的係數分佈是一個拉普拉斯分佈exp(-np.prod(np.abs(coef)))，它只在最優時產生稀疏度作爲「僞像」。從這個分佈中獲得一個稀疏樣本的概率是0（它發生「幾乎從不」）。

本免責聲明的方式進行，你可以寫

import numpy as np 
from sklearn.linear_model import Lasso 
est = Lasso(alpha=10.) 
est.fit(X, y) 
coef = est.coef_ 
data_loss = 0.5 * ((X.dot(coef) - y) ** 2).sum() 
n_samples, n_features = X.shape 
penalty = n_samples * est.alpha * np.abs(coef).sum() 
likelihood = np.exp(-(data_loss + penalty))