線性最小二乘問題的廣義逆求解
(丁梁波整理)
對於任意的方程組：
其中如果，只要方陣非奇異，就有逆陣，從而得到解。然而，對於的一般情況，是長方陣，就沒有通常的逆陣。不過它仍然可以有相應於特定方程型別的幾種形式的廣義逆矩陣，其中適於任何情況的廣義逆叫做penrose廣義逆，記為。
於是，方程的解可以為：
由奇異值分解（svd）可以將分解為：
其中u，v分別為m ,n階正交陣
這樣的廣義逆可表示為：
其中這樣我們可以看出，完成的奇異值分解後，求解的廣義逆就變得很簡單，從而可以方便地求出方程組的最小二乘解。下面我們說明對矩陣進行奇異值分解的方法和步驟。
通常情況下我們考慮m>n時矩陣的奇異值分解，因為當m一．用householder變換將約化為雙對角矩陣。具體步驟如下：
1. 以的第1列作為v，取i=1，按下列式子構造householder矩陣q
式中為q，為了方便以後的說明我們還用表示
2. 將q1左乘a得到矩陣q1 a，並以q1 a的第1行作為v，取i=2，按（1）式構造householder矩陣h2， 右乘q1a得到q1a h2。
3. 取q1a h2的第2列為v，i=2，按（1）式構造householder矩陣q2，左乘q1a h2，得到q2 q1a h2，並將計算q2 q1將其存入q1。
4. 取q2 q1a h2的第2行為v，i=3，按（1）式構造householder矩陣h3，右乘q2 q1a h2，得到q2 q1a h2 h3，並將h2 h3存入h2。
5. 依次類推，計算出qnqn-1…q1ah2 h3…hn-1為雙對角矩陣，並將qnqn-1…q1存入到q1中，h2 h3…hn-1存入到h2 中。
qnqn-1…q1ah2 h3…hn-1為雙對角矩陣記為：
需要注意的是：當時，只計算到qn-1…q1ah2 h3…hn-2
二．用原點位移qr演算法進行迭代，計算所有的奇異值，並最終結合（一）計算出出u和v。
1. 按下式列旋轉矩陣h0
2）式中
並將計算bh0
2. 按下式構造列旋轉矩陣
並計算q1 bh0
3. 構造列旋轉矩陣
並計算q1 bh0h1以及h0h1
4. 構造列旋轉矩陣
並計算q2 q1 bh0h1以及q2 q1
5. 按類似（3），（4）的方法構造列旋轉矩陣，並計算相應的新矩陣qi…q2 q1 bh0h1…hi-1,直到i=n，並記，，
即6. 判斷b1的次對角線元素是否在誤差範圍內可以認為是0，若是則分解完畢，若否，則將b1作為上面的b重複步驟1，2，3，4，5，6。直到bk可以近似看作是對角陣。
即： 記，
則bk的對角線元素就是矩陣a的奇異值，即中的已經求得，從上面的過程中我們可以將a按下面的式子進行分解：
對比，，
這樣我們就完成了矩陣a的奇異值分解，由於u和v都是正交陣，我們能夠得到a的廣義逆，從而可以根據下列公式計算方程組的最小二乘解：
程式說明：
程式共有乙個主程式和三個主要功能子程式：
主要功能有：方程組的初始化，輸出係數矩陣及其廣義逆、廣義逆法的最小二乘解以及逆的逆對方法進行驗證。
程式的核心部分，奇異值分解程式，輸入係數矩陣，輸出分解後的u，v，
計算廣義逆以及方程組的最小二乘解
僅計算廣義逆
另外還有乙個奇異值分解的輔助小程式
21 2 5因式分解法
21.2.5 因式分解法小組 姓名 學習目標 1 使學生理解用因式分解法解一元二次方程的基本思想，會用因式分解法解某些一元二次方程 2 使學生會根據目的具體情況，靈活運用適當方法解一元二次議程，從而提高分析問題和解決問題的能力.學習重點 難點 重點 用因式分解法一元二次方程 難點 理解因式分解法解一...
R軟體STL時間序列分解法
時間序列分解 stl分解法 stl seasonal and trend decomposition using loess 是以魯棒區域性加權回歸作為平滑方法的時間序列分解方法。其中loess locally weighted scatterplot smoothing,lowess or loe...
絕對值不等式解法
課題 1.4絕對值不等式的解法 二 教學目的 1 鞏固與型不等式的解法，並能熟練地應用它解決問題 掌握分類討論的方法解決含多個絕對值的不等式以及含引數的不等式 2 培養數形結合的能力，分類討論的思想，培養通過換元轉化的思想方法，培養抽象思維的能力 3 激發學習數學的熱情，培養勇於探索的精神，勇於創新...