大家好
我最近在練習把各種迴歸提到的東西實作出來
使用的是python
然後使用statsmodels來驗證我的結果
那我正在寫WLS
作法是令一個矩陣W，其中它的各個對角線元素為weighted值
然後把原本的矩陣X，轉變為Xw= W^0.5 * X
向量y也做一樣的轉換：yw = W^0.5 *y
然後利用Xw和yw去做一般的OLS計算
所以這時候算的係數向量會是
b = (Xw' * Xw)^(-1) * Xw' * yw
= (X' * W * X)^(-1) * X' * W * y
那我現在遇到的問題是
我在計算SST SSR SSE時
一開始想說應該和一般的計算方法一樣
就是像是SSE=(y-yhat)' * (y-yhat)
其中yhat是X * b
結果算出來好像怪怪的
後來改成這樣算
SSE = (yw-ywhat)' * (yw-ywhat)
其中ywhat是Xw * b
這樣結果就對了
但是我不懂為什麼這裡要改用yw去算？
另外同樣的改法，用在SST和SSR卻失敗
算出來的答案不太對
因此想問，是否WLS中，計算SSR、SSE和SST的方法和一般OLS的不太一樣呢？
是的話，又是為什麼要這樣計算呢？
謝謝！
（這裡我的SSR SSE SST分別代表迴歸變異量、誤差變異量和總變異量）
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 140.115.202.154
※ 文章網址: https://www.ptt.cc/bbs/Statistics/M.1552236582.A.E40.html
※ 編輯: iphone2003 (140.115.202.154), 03/11/2019 00:51:02