Re: [線代] 矩陣近似解

[nicewine1 (舉杯邀明月)]

※ 引述《harveyhs (Hango)》之銘言：
: ※ 引述《james2009 (瑋仔)》之銘言：
: 我會覺得是考最小方差的東西
: 令 [1 0]      [s]       [1]
:    [0 1] = A, [t] = x , [1] = b
:    [1 1]                [0]
~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
       AX=b

       [1 0]* [s]    [1]
       [0 1]  [t]  = [1]
       [1 1]         [0]

       [s  ]  [1]
       [t  ] =[1]
       [s+t]  [0]

        s  =1
        t  =1
        s+t=0 ????????(=><=)
        矛盾

: 欲解 Ax = b 這個線性方程，這個方程要有解基本上 b 必須在A的column space裡
: 如果不在的話，我們就必須另闢蹊徑，選擇解 Ax = p, p 是 b 在column space的投影。
: 複習高中數學，兩向量 a, b如果我要求 b在a上的投影
:                                       t
X:                                      a b
: 基本上就是 [(a。b)/|a|]╳ (a/|a|) = －－－ a, t代表轉置
:                                       t
:                                      a a
: 把a移到前面去，可以寫出投影矩陣
:         t
: ^    a a
: P = －－－
:       t
:      a a
: 今天要求的b在column space上的投影
: 所以對於A的每個column 我都有類似上面的結論
:                    t  -1 t
: 結合成矩陣就是 A (A A)  A
: ______________________________________
: 推導：
: 假設 A = [a_1, a_2, ...], a_i都是column vector
:      p 是 b 在 column space上的投影
:      原本的問題 Ax = b無解退而求其次欲解 A y = p
:      b - p = e, 由於 p是投影，所以 e應該要跟column space正交
:      故
:          t             t
:         a_i (b - p) = a_i (b - Ay) = 0
:      把每個 i 都算進去，所以等同解
:       t       t              t  -1  t
:      A A y = A b, 所以 y = (A A)   A b <-------要的解
:                          t  -1 t
:      p = Ay, 所以 p = A(A A)  A b
: _____________________________________
:  t    [1]
: A b = [1]
:  t
: A A = [2 1]
:       [1 2]
:       t  -1 t    [1/3]
: y = (A A)  A b = [1/3]
: 好晚了不知道有沒算錯orz

--
眾仙會合見面三杯酒

--
※ 發信站: 批踢踢實業坊(ptt.cc) 
◆ From: 118.169.238.245
→ harveyhs    :這個方程的確無解啊，因為不在column space裡
→ harveyhs    :所以才要投到裡面去啊XD
推 james2009   :least square 第二行(1,1,1)吧!?
→ james2009   :要不要去翻一下你的線性代數@@
→ james2009   :感覺上你好像把minimum solution和最小平方法搞混了
→ harveyhs    :@@那個矩陣我抄原原po的欸