→ Ricestone: 在R^m中,R(A)跟N(A^T)本來互相就是正交補餘的關係08/28 00:37
→ Ricestone: 這件事跟是否為投影算子無關08/28 00:39
那這樣如果題目敘述改成for all y屬於Rn y可以寫成R(A^T)的向量跟N(A)的向量線性組合
也是對的嗎?
→ Ricestone: 第二個問題當然是書寫錯了08/28 00:53
※ 編輯: mistel (114.136.219.48 臺灣), 08/28/2019 12:04:23
→ Ricestone: 對啊,就是用A^T代A而已,意思一樣08/28 12:24
→ Ricestone: 要證明也不難,書上應該會有才對08/28 12:39
→ Ricestone: 先證明它們正交,令屬於ker(A^T)的向量叫y,屬於R(A)的08/28 12:40
→ Ricestone: 向量叫Ax,則(y^T)Ax=(Ax)^Ty=x^TA^Ty=x^T(A^Ty)=008/28 12:43
→ Ricestone: 再來證明它們只交於{0},假設有向量z同時屬於兩空間,08/28 12:45
→ Ricestone: 那麼它跟它自己內積會是0,所以一定是0向量08/28 12:45
→ Ricestone: 最後用維度定理就知道它們互相是正交補餘了08/28 12:46
T是冪等算子情況下一個向量可以拆成ker(T)+Im(T)裡的所有向量這我理解,因為這時候ker
(T)跟Im(T)這兩個空間會形成直和
但是這個地方書上其實沒有講的很清楚,只提到兩個正交補空間交集是空集合,
所以跟您確認一下,我一直以為維度定理僅限用在ker(T)跟Im(T),
但是像這篇文章的R(A)跟N(A^T),其實我只要知道R(A)跟N(A^T)交集是{0}(滿足直和其中一
個條件)
而且兩個空間維度相加剛好等於dim(Rm),所以我就可以說R(A)跟N(A^T)也行成了一個直和
了,是這樣嗎@@
※ 編輯: mistel (114.136.219.48 臺灣), 08/28/2019 18:35:06
→ Ricestone: 實際上,dimIm(T)=rank(T)=dimR(A)=dimR(A^T) 08/28 19:45
→ Ricestone: 所以兩個式子是一樣的08/28 19:48
→ Ricestone: 而一般我們說四大空間的關係時用的就是我寫的那樣 08/28 19:49
→ Ricestone: 四大空間對所有矩陣都是對的,冪等才是特例08/28 19:50
→ Ricestone: 我說的兩個式子指的是維度定理08/28 20:01
→ Ricestone: 我發現我沒有寫,就是dimR(A)+dimN(A^T) = m08/28 20:03
對耶R(A^T)維度跟R(A)是相同的!這樣我瞭解了
再請教R大關於least square solution跟minimal solution的問題
先假設是解Ax=b這個線性系統
1.minimal solution一定存在嗎?
是的話那Ax=b有唯一解x就是minimal solution嗎?所以其實這個x是在R(A^T)裡面?!
不是的話代表唯一解x不是距離原點長度最近的那個解,感覺怪怪的?
2.least square solution求解x0時可以把b投影到R(A)上再求解,那minimal solution可以
把b投影到R(A^T)上再求解嗎?
3.https://www.ptt.cc/bbs/Grad-ProbAsk/M.1420862181.A.A81.html
請問這篇文章中提到的shortest (minimal 2-norm) least-squares solution就是指minima
l solution沒錯嗎?
下面留言提到的這句話「好像最小解一定是R(A^T). 因為不管求解還是近似解,x 屬於R(A^
T)+N(A),而如果有多組解代表N(A)不為空,最小解則是這之中最短者,所有在R(A^T)正交N(
A)的條件下,加上N(A)只會增加長度,所有最小解一定屬於R(A^T)」
其實就是在過去說過的通解可以拆成特解+一個齊次解嗎?,所以這個唯一一個特解就是min
imal solution對嗎?
感謝R大一直幫忙解惑
※ 編輯: mistel (114.136.219.48 臺灣), 08/29/2019 00:46:58
→ Ricestone: 1.有解的話,對,也是在R(A^T)裡面08/29 01:05
瞭解
→ Ricestone: 3.是,但第二個問句不太對,因為特解本身是可以隨便找08/29 01:06
→ Ricestone: 你可以想像那個解集合是個沒通過原點的平面,這個平面08/29 01:07
→ Ricestone: 可以由隨便一個指向平面上一點的向量加上平面上的向量08/29 01:08
→ Ricestone: 表達,而我們說的比較特殊的特解則是距離原點最近的那08/29 01:09
→ Ricestone: 條垂直於平面的線 08/29 01:09
原來如此
這邊可能要多體會一下才能懂了orz
→ Ricestone: 至於2.應該是要找pseudo inverse08/29 01:15
→ Ricestone: 不過不知道應該也不會影響對minimal solution的理解08/29 01:16
瞭解,感謝您
※ 編輯: mistel (114.136.219.48 臺灣), 08/29/2019 13:50:41
→ Ricestone: 3這點應該沒很複雜,「指向平面上隨便一點的向量」就是 08/29 13:56
→ Ricestone: 一個特解,「在平面上的向量」就是齊次解08/29 13:57
→ Ricestone: 另外,1這件事,既然你說的是只有唯一解,那代表N(A)的08/29 14:05
→ Ricestone: 維度就是0,同時也代表R(A^T)是整個R^n08/29 14:07
您說的我懂,但既然解集合可以拆開變成特解和齊次解,而且特解垂直於這個齊次解平面,
那這特解向量應該是屬於R(A^T),而且特解跟齊次解的內積應該是0?!
但是為什麼筆記上這一題把通解拆成特解+齊次解,做內積卻不是0 TAT
https://i.imgur.com/ISlJD5S.jpg
https://i.imgur.com/waA34gN.jpg
還是這跟是不是在inner product space有關...?
※ 編輯: mistel (114.136.219.48 臺灣), 08/29/2019 15:43:44
→ Ricestone: 不是啊,所以我的意思就是若只講特解,並不代表那就是 08/29 15:49
→ Ricestone: R(A^T)的解呀,指向解平面上任何一點的向量都可以是特08/29 15:50
→ Ricestone: 解08/29 15:50
→ Ricestone: 這麼說吧,假設yp是屬於R(A^T)的特解,yn則是齊次解 08/29 15:54
→ Ricestone: 那麼(yp+yn)這個向量也可以當作特解 08/29 15:55
→ Ricestone: 而它當然不會跟yn正交08/29 15:56
→ Ricestone: 反過來說,如果你能找到跟所有齊次解都正交的特解,那08/29 16:07
→ Ricestone: 就會是屬於R(A^T)的解了 minimal solution主要就是在 08/29 16:08
→ Ricestone: 找這個特殊的特解 08/29 16:08
哦哦哦我懂了,原來我一直誤會直和的意思,所以誤以為R^n裡的向量不是屬於N(A)就該屬
於R(A^T),正確的說應該是可以被這兩個空間線性組合才對,
早上還想說奇怪為什麼您為什麼要強調指「任意」指向ker(T)的向量
當唯一解時ker(T)維度為0,R(A^T)會行成R^n,所以minimal solution本來就應該在R(A^T)
裡,而且這一個特殊的解正是離原點最近的點,而且跟ker(A)的所有向量垂直
有種前後串起來的感覺
數學好神奇啊!!
※ 編輯: mistel (114.136.219.48 臺灣), 08/29/2019 16:32:46