满秩分解
详见00basic
满秩矩阵的QR分解
理论
首先待分解矩阵A是一个满秩矩阵,所以他的列向量组[α1,...,αn]是线性无关的。
进行施密特正交化(注意先不单位化),然后反解,用β表示α,可以得到
[α1,α2,...,αn]=[β1,β2,...,βn]⎣⎡1000⟨β1,β1⟩⟨β1,α1⟩.................................⎦⎤
对β 进行单位化,再用β表示q,
得到[β1,β2,...,βn]=[q1,q2,...,qn]⎣⎡∣∣β1∣∣.............................................⎦⎤
这样就得到了A=[α1,...,αn]=[β1,β2,...,βn]⎣⎡1000⟨β1,β1⟩⟨β1,α1⟩.................................⎦⎤=[q1,q2,...,qn]⎣⎡∣∣β1∣∣.............................................⎦⎤⎣⎡1000⟨β1,β1⟩⟨β1,α1⟩.................................⎦⎤=Q⎣⎡∣∣β1∣∣000⟨β1,β1⟩⟨β1,α1⟩.................................⎦⎤=QR
可以发现Q是一个U矩阵,因为他的列向量是标准正交基,R是一个上三角。更进一步这个分解唯一。这叫QR分解定理。
计算方法
计算比上述流程简单,要充分利用Q是一个酉矩阵的特点,所以先对A的列向量施密特正交化+单位化,得到Q,再用R=QHA即可计算R
应用:解方程组
Ax=b太难算,可以转化成方程组QHQRx=Rx=QHb
共轭转置很好算、矩阵乘向量很好算,上三角解方程组很容易。
LU分解
把矩阵分解成单位下三角(主对角线都是1)和上三角
存在性:存在且唯一⇔ A方阵的各阶顺序主子式=0
计算方法
很多种,比较简单的就是把两个矩阵为止的元素设成未知数,按照A=LU,列出方程组求解
这个方程组是很好解的,别看有一些二次项,因为三角的特点决定了方程之间的依赖关系很弱,所以很好解。
SVD分解
不要求方阵,不要求满秩
SVD分解定理
对于矩阵A,如果rank(A)=r,那么AHA的特征值有r个正数λ1≥λ2...λr>0,那么σi=λi称为矩阵A的奇异值。
存在酉矩阵U,V,使得UAV=Σ=[diag(σ1,...,σr)OOO]
计算方法
求解AHA的特征值和特征向量,特征值降序排列
对特征向量进行正交+单位化,按所属特征值降序排列得到V
对非0特征值λi,可以得到ui=σi1Avi,得到r个列向量,构成U的前r列
对U其余列,求解uiTx=0(因为U得是酉矩阵,需要和之前的ui的标准正交)
最后排列起来得到UAV