第4章 矩阵的分解

第4章、矩阵的分解MatrixFactorizationandDecomposition矩阵分解的概述矩阵的分解：A=A1+A2+…+Ak矩阵的和A=A1A2…Am矩阵的乘积矩阵分解的原则：实际应用的需要理论上的需要计算上的需要显示原矩阵的某些特性矩阵化简的方法之一主要技巧：各种标准形的理论和计算方法矩阵的分块4.1LU分解(图灵Turing,1948)LU分解：ACnn，若A的顺序主子式不为零，则存在唯一的主对角线上元素全为1的下三角形矩阵L与唯一的上三角形矩阵U，使得A=LU.例如：107100107320310022111119110022ALUApplication可以简化求解线性方程的算法Step1:Step2:AxLUxbLybUxy举例.LU122014112分解作对矩阵A4.2QR分解1.利用Gram-Schmidt正交化过程的QR分解Theorem设矩阵ACmn，R(A)=n(列满秩)。则存在非奇异上三角阵R，和矩阵Q，QHQ=E，使得A=QR。Remark:这样的分解称之为QR分解。实施步骤12(,,...,)nAG-S正交化12,,...,n12,,...,n单位化1111221212(,)...(,)...(,)(,,...,)(,,...,)nnnnnAQR4.2QR分解例P090例4.2.1此例中矩阵是列满秩的例P091例4.2.2此例表明即使矩阵不是列满秩的，也可以用G-S正交化方法，但是其QR分解不是唯一的。4.3满秩分解矩阵的满秩分解对秩为r的矩阵AFmn，存在秩为r的矩阵BFmr，CFrn，使得A=BC为A的满秩分解。列满秩行满秩已知的结论00~,..,,0000rrmnEEAieAPQPQ，可逆00000rrrEEAPQPEQBC满秩分解的实现：向量组最大无关组的求法例求矩阵A的满秩分解12341123(,,,)101001131010110113,10,00000110100113ABABCC行初等矩阵的满秩分解的做法设ACmn，R(A)=r,对A作行初等变换得行最简形H，若H的首1元分别在H的第j1,j2,…,jr列，取H的前r行所成矩阵为C，取A的j1,j2,…,jr列所成矩阵为B，则BCmr，CCrn，其秩序均为r，且A=BC。例P098例4.3.2；例P098例4.3.1（此矩阵为列满秩矩阵）4.4奇异值分解(SingularValueDecomposition)Problem:矩阵的奇异值分解是酉等价型的分解:ACm×n，酉矩阵UCm×m,VCn×n,使得A=UVH。矩阵A等价于=nmD000rdddD21奇异值分解基本适用于内积空间中与矩阵秩相关的问题A的奇异值分解依赖于正规矩阵AHA的酉相似分解的。一、矩阵A的奇异值及其性质1、矩阵AHA和AAH的性质：ACm×n，AHACn×n，AAHCm×m，都是Hermite矩阵。Theorem2.7.8（P052）1.秩（A）＝秩（AHA）=秩（AAH）。2.AHA和AAH的非零特征值相等。3.AHA和AAH是半正定矩阵。AHA和AAH的特征值是非负实数：12n2、奇异值的定义：（P099）ACm×n，秩（A）=r，设AHA的特征值12r0，r+1=r+2==n=0，则矩阵的奇异值.,...,2,1,ridii二、矩阵的奇异值分解1、Theorem4.4.1（P099）设ACm×n，秩（A）=r，则存在酉矩阵UCm×m，VCn×n，使得其中,HVUA证明思想：Step1.AHA正规，VHAHAV=，酉矩阵V。02DrddDD1,0001211[,],[,...,]rVVVV例求矩阵A的奇异值分解，A=。000021Step2.令,得U1=[u1，u2，…，ur],扩充为标准正交基酉矩阵U。111DAVU4.5Moore-Penrose（M-P）广义逆由Moore1920年提出，1955年由Penrose发展。1、Definition设ACmn，如果XCnm，使得1.AXA=A2.XAX=X3.（AX）H=AX4.（XA）H=XA则称X为A的M-P广义逆，记为X=A+。A–1=A+；例讨论原有的逆的概念和M-P广义逆的关系。例求下列特殊矩阵的广义逆；零矩阵0；对角矩阵0+m×n=0n×m3、M-P广义逆的存在性及其求法Theorem任何矩阵都有M-P广义逆。求法：•设A满秩分解A=BC，则•奇异值分解可以用于求广义逆(Theorem4.5.3,P105)设A奇异值分解：，则HUDVA00012、M-P广义逆的惟一性Theorem如果A有M-P广义逆，则A的M-P广义逆是惟一的。000HDAUVHHHHBBBCCCA11)()(例设，求A+。442211A例设，求A+。431221A3、M-P广义逆的性质Theorem4.5.2(P103)：1.(A+)+=A2.(A+)H=(AH)+3.(A)+=-1A+4.A列满秩，则A+=(AHA)–1AH，A行满秩，则A+=AH(AAH)–1。5.A有满秩分解：A=BC，则A+=C+B+。A+与A–1性质的差异比较：（AB）–1=B–1A–1，一般不成立（AB）+=B+A+。(只有满秩分解成立)（A–1）k=（Ak）–1，但不成立（A+）k=（Ak）+