如何在添加新點時避免重複的線性迴歸過程

Question

我知道如何做一組N個樣本的迴歸。但是，我的項目是分別對第2,3,4 ... k，k + 1，... N個樣本進行線性迴歸。添加新樣本時，是否有更快的方法可以使用以前的結果（或中間結果）來解決迴歸問題？謝謝。

Answer 1

在近似直線的線性最小二乘法系數被使用這些公式計算：

a = (N * Sum(Xi*Yi) - Sum(Xi)*Sum(Yi))/(n * Sum(Xi^2) - (Sum(Xi))^2) 
b = (Sum(Yi) - a * Sum(Xi))/N 

所以可以存儲第N的值求和

Sum(Xi*Yi) 
Sum(Xi) 
Sum(Yi) 
Sum(Xi^2) 

和在（N + 1更新它們）第一步。

Sum(Xi)[N+1] = Sum(Xi)[N] + X(N+1) 
Sum(Xi*Yi)[N+1] = Sum(Xi*Yi)[N] + X(N+1)*Y(N+1) 

等等，並計算新的係數值。

注意：此類算法被稱爲「正在運行」或「在線」 - 請參閱analog for std deviation