作者raymond168 (raymond168)
看板Examination
標題[課業] 迴歸分析
時間Mon Dec 15 12:41:54 2014
假設有一迴歸模型如下:
Y=a+bX1+cX2+d(X2)^2+eX3+fD+ε
其中
Y為被解釋變數
X1, X2, X3, D為解釋變數,且D亦為虛擬變數(0或1)
a, b, c, d, e, f為迴歸係數
iid
ε~ N(0,σ^2)
以最小平方法進行迴歸估計。
試問:
若將原資料中的變數X1作單位變換為(X1)'=0.01X1,即X1乘上0.01倍後,產生新的變數
(X1)',其餘變數不變,重新估計迴歸式,則新的迴歸係數b'_hat及其標準差、對應之t值、
Adjusted R^2將如何變動?
-------------------------------------------------------------------------------
想法:
若將迴歸模型簡化為簡單迴歸:
Y=a+bX+ε
當X'=0.01X時,
Sx'y 0.01Sxy
b'_hat=------=-------------=100b_hat......(1)
Sx'x' (0.01)^2Sxx
a'_hat=a_hat
SSTO'=Syy=SSTO
(Sx'y)^2 (0.01)^2(Sxy)^2
SSR'=----------=-----------------=SSR
Sx'x' (0.01)^2Sxx
SSE'=SSTO'-SSR'=SSTO-SSR=SSE
MSE'=MSE
則b'_hat的標準差為
S(b'_hat)=sqrt(MSE'/Sx'x')=sqrt(MSE/(0.01)^2Sxx)=100sqrt(MSE/Sxx)
=100S(b_hat)......(2)
且由(1)(2)式可得知t值為
b'_hat 100b_hat b_hat
t'=-----------=------------=---------=t......(3)
S(b'_hat) 100S(b_hat) S(b_hat)
判定係數為
R'^2=R^2
調整後的判定係數為
Adjusted R'^2=Adjusted R^2......(4)
故由(1)(2)(3)(4)式可知
當變數X乘上0.01倍後重新估計迴歸式,得知b_hat與S(b_hat)皆放大100倍,而t值與
Adjusted R^2皆不變。
回到最上面的題目
不曉得1個變數以上的迴歸模型是否也有相同的結果?
懇請版上的高手指點一下
謝謝
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.239.102.251
※ 文章網址: http://www.ptt.cc/bbs/Examination/M.1418618516.A.05B.html
※ 編輯: raymond168 (36.239.102.251), 12/15/2014 12:44:14
→ yhliu: 一樣. 只是證明私話, 不要代迴歸係數公式, 而是由 "最小平 12/15 17:13
→ yhliu: 方" 條件去思考. 12/15 17:14
→ yhliu: 當然要從迴歸係數公式去證也可以, 不過需要用到佢矩陣運算. 12/15 17:16
感謝y大的提示
※ 編輯: raymond168 (59.104.141.208), 12/15/2014 23:05:18