2016-05-06 23 views
0

我無法理解這些幻燈片爲什麼SVD應用於最小二乘問題? enter image description here爲什麼應用SVD應用於線性迴歸

然後它遵循這樣的:

enter image description here

在這裏,我不明白爲什麼被帶到殘差的衍生物,它是在圖中的主意,採取的投影爲了儘量減少錯誤?

enter image description here

enter image description here

回答

0

這是我謙虛審判解釋這個...
第一張幻燈片並不能說明尚未SVD是如何與LS。但它表示,只要X是一個「標準」矩陣,就可以用奇異矩陣(只有對角線元素不爲空)來轉換問題 - 這對於計算來說很方便。幻燈片2顯示了使用奇異矩陣完成的計算。
解釋在幻燈片3上:最小化r的範數等於最小化RSS的平方(因爲x - > x * x是x> 0的遞增函數)。最小化RSS:與最小化任何「良好」函數相同,您可以對其進行推導,然後將導數等於0.