我試圖通過正則化(L1或L2)實現Logistic迴歸。 mnrfit()函數不實現正則化。有沒有可以進行正規化的內置函數,還是我必須推出我自己的正則化代碼? 如果是這樣,是否有任何我可以看的教程?我一直在尋找的論文在數學上相當密集。MATLAB中Logistic迴歸係數的規範化
1
A
回答
1
L1以及L2正規化是很容易實現。
L1正則化通過在每個訓練步驟之後減去固定金額來計算您的權重的絕對值。因此,例如,L1正則化係數0.01,你的權重(1.0,-2.0,3.0)將變成(0.99,-1.99,2.99)。
L2正則化的工作原理是減去百分比的權重。係數爲0.01時,這意味着將您的權重向量乘以1. - 0.01 = 0.99。權重(1.0,-2.0,3.0)將變爲(0.99,-1.98,2.97)。這也被稱爲重量衰減。
正如你可以看到,L1正規化拉動朝着在另一側上爲0 L2正規化小權重對權重小几乎沒有影響,但大大減少了大權重。
1
Liblinear是我們使用的標準。
相關問題
- 1. 大規模數據Logistic迴歸
- 2. 蟒規則化Logistic迴歸無法最小化
- 3. Logistic迴歸梯度下降在Matlab
- 4. Logistic迴歸Python
- 5. Logistic迴歸宏
- 6. Python Logistic迴歸
- 7. logistic迴歸中的折刀
- 8. Logistic迴歸中的排序
- 9. 微調Logistic迴歸中的參數
- 10. 歸檔系統中的數據庫規範化
- 11. Logistic迴歸錯誤
- 12. Logistic迴歸在scikitlearn
- 13. 將表示多項Logistic迴歸的PMML轉換回R係數
- 14. fmin_bfgs Logistic迴歸和Scipy優化
- 15. 如何在Logistic迴歸中查找Logistic/S形函數參數
- 16. 線性迴歸中的規則化常數範圍
- 17. 套袋logistic迴歸r
- 18. Logistic迴歸雙循環R
- 19. 決策樹與Logistic迴歸
- 20. 多重Logistic迴歸在Python
- 21. Python或SQL Logistic迴歸
- 22. 錯誤代碼logistic迴歸
- 23. Logistic迴歸使用R
- 24. R中的多級Logistic迴歸
- 25. OutOfMemoryError,而SparkR中的Logistic迴歸
- 26. 通用Logistic迴歸中的R
- 27. 使用s3數據與SparkR Logistic迴歸
- 28. Logistic迴歸和最佳參數w
- 29. Theano - Logistic迴歸 - 維數錯誤
- 30. Scikit學習:Logistic迴歸模型係數:澄清