Coeficient V/S多元線性迴歸係數V/S Var-Covar矩陣方差的標準誤

Question

我正在用我對每個術語的定義的瞭解來理解迴歸係數的標準誤差。

• 據我瞭解，標準誤差的定義是估計的統計準確性的度量，等於這種估計的大量羣體的理論分佈的標準偏差。
• 現在標準差是方差的平方根。所以如果我們得到係數的方差，我們會得到標準誤差。現在我所理解的係數方差是V [b]，其中b是所有估計係數的矩陣，其中X是包含X0 = 1的因變量矩陣。
• 但是，當我搜索Var [b]的方程時，我得到Var [b]的一個方程，表示它實際上是Var-Covariance矩陣，方差可以用這個矩陣的診斷和標準誤差的平方根這個矩陣的診斷。
• 困惑我，好像診斷是係數方差，那麼爲什麼方差 - 協方差矩陣定義爲V [b]？我假設我失去了理解這些條款的地方。這裏有幫助嗎？我是stat的新手。請幫我提供詳細信息。

Answer 1

在實際上解決了大量的多元線性迴歸則是具有數學問題和假設的起源這個優秀的材料

找到答案：https://web.stanford.edu/~mrosenfe/soc_meth_proj3/matrix_OLS_NYU_notes.pdf頁8.要回答我的問題：

• 它可能會錯誤地將Variance-Covariance矩陣表示爲V [b]，因爲它不是！它必須用方差協方差矩陣表示爲E [（β - β）（β - β）]。

• 現在下面的公式會有意義。 殘差的變化inverse（移調（X矩陣）％％X矩陣），其中殘差的變化定義爲（殘差矩陣％*％殘差矩陣的移位）/（行數 - 列數）。

• 這表明根據方差協方差矩陣的定義，矩陣的診斷定義了每個係數的方差和平方根與標準誤差相同，這只是標準誤差。