推 light0617 :好強喔! 真是太感謝你了 原來還可以用這招證明 感恩 02/05 16:42
※ 引述《light0617 (EDWIN)》之銘言：
設
[1 x12 ... x1p] 令H=X(X'X)^(-1)X' 定義b=[1]
X=[1 x22 ... x2p] [1]
[ ] [.]
[ ] [.]
[ ] [1]
[1 xn2 ... xnp]
1)證明 b'H=b 應該是b'H=b'
分類放線代讓我不知道該怎麼證
如果有學過一點統計的話可以用統計的結論
y是任意nx1的向量
^ ^
定義y=Hy 因此 sum(y)=sum(y) 這裡用到sum(residual)=0
^
b'y=sum(y)=sum(y)=b'Hy
因此b'=b'H
2)證明 H-(1/n)bb' 會是idempotent matrix
(H-(1/n)bb')*(H-(1/n)bb')
=H*H-(1/n)Hbb'-(1/n)bb'H+(1/n^2)bb'bb'
=H-(1/n)(b'H)'b'-(1/n)bb'H+(1/n)bb' H本身是idempotent也是symmetric
bb'bb'=nbb'
=H-(1/n)bb'-(1/n)bb'+(1/n)bb' 用a小題
=H-(1/n)bb'
3)證明 H-(1/n)bb' 是半正定矩陣
一樣用統計的結論
y'(H-(1/n)bb')=y'Hy-(1/n)y'bb'y=y'HHy-(1/n)(b'y)'(b'y)
^ ^
=sum(y*y)-(1/n)(sum(y))^2 這是total sum of squares
因此是半正定
4)證明 H的對角線元素皆大於等於(1/n) (利用上題結論)
令ei是standard basis，Hii是H第i個row第i個column的元素
ei'(H-(1/n)bb')ei=Hii-(1/n)
用3的結論，Hii-(1/n)>=0
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 114.24.100.149