前面討論單位正交基底組的旋轉等變換的概念，目的在於要找
出拆解線性轉換和方程組求解問題，使問題變得更簡單。
概念上就是把單位基底組的投影和和坐標系的概念結合之後，
可以從另外的角度理解線性轉換，而且可以簡化線性方程組求解
。
不過上面那種拆解僅限於線性問題，非線性問題要怎麼拆解?
以下先討論線性狀況。
線性轉換可理解(或分解)為把自變數向量投影到新座標系之後
乘後某個純量作放大或縮小。
線性方程式求解，可以透過把該方程組投影到其系統方陣或矩
陣的(左方)單位正交基底組成的坐標系，把方程組初步化簡。然
後引入把自變數投影到系統方陣或矩陣的(右方)單位正交基底組
成的坐標系得到很簡單的方程組求解。最後把相關的變數反向投
影就得到原來的解。
以下討論上面所述具體細節；先看線性轉換，再看線性方程組
求解。同樣都是先看有限維度的向量空間，再擴張到無限維度的
函數空間。
一、線性轉換
y =f(A, x) = A*x
滿足 f(x1+x2) = f(x1)+f(x2), f(c*x) = c*f(x)
(一) A = V*D*V', V'*V = I
V = [v1, v2, ..., vN]; vn'*vn = 1, n = 1 to N
此時 y = f(A, x) = A*x = sum( dn*vn*xn, n = 1 to N)
= V*D*V'*x
亦即 V'*y = D*V'*x <=> py = D*px, py = V'*y and px = V'*x
換言之，以上的線性轉換 y = A*x 可以理解為把向量 x 轉換為向量 y
或者可理解為，該線性轉換乃把向量 x 投影到 V 為基底向量組成的
新座標系上面，然後把每個投影分量乘上某個常數做縮放。經過縮放
的新向量 (D*px) 對應到同樣以 V 為基底的另一個向量，而這個向量
則是向量 y 投影到 V 為基底向量組成的新座標系上面的那個向量。
(二) A = U*S*V', V'*V = I, U'*U = I
同樣可做如同(一)的理解，只是投影前後的向量基底集合不同，分別是
V 和 U。
另一個與(一)不同之點在於，此時 A 可為矩陣，亦即線性轉換可在不同
維度的兩個空間進行。
(三) 無限維度
概念同上，但因為這時候是一個向量函數是無限多分量函數的相加，所以
必須對線性轉換做限制，例如 norm(A) < inf
or norm(A) = sqrt(A'*A) < inf
二、線性方程組
A*x-b = 0 求解
(一) A = V*D*V', V'*V = I
V'*( A*x - b) = V'*A*x-V'b = V'*(V*D*V')*x-V'*b
= D*V'x-V'*b = D*py-pb, pb = V'*b
亦即，原本的線性方程組可以在乘上 V' 之後，轉換成比較簡單的型式
D*py-pb = 0
解完這個簡單的線性方程組後，把投影或轉換後的變數還原，就可以得
到原來方程式的解。
(二) A = U*S*V', V'*V = I, U'*U = I
U'*( A*x-b ) = U'*A*x-U'*b = U'*(U*S*V')*x-U'*b
= S*V'*x-U'*b = S*py-pb, pb = U'*b
概念上也是把原方程組投影後化簡求解，再反向投影(或轉換)後得原方程
組的解。
(三) 無限維度
概念相同，線性方程組的系統方陣或矩陣必須有限制。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.24.103.22 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Math/M.1687751397.A.ACE.html