矩阵范数理论及其应用

第四章矩阵范数理论及其应用知识要点：1、向量范数及其性质（范数与赋范空间，n维向量的1-范数1x、2-范数2x、p-范数px和范数x，pplimxx，aPaxPx，2HHPxPxxPPx，有限维赋范空间的范数是等价的）2、矩阵范数及其相容性（Frobenius范数，FEn，相容性：ABAB，1E）3、算子范数（定义，列范数，行范数，谱范数）4、矩阵范数的应用（矩阵序列及幂级数的收敛性，矩阵条件数，摄动理论、矩阵的谱半径）§4.1向量范数及其性质一、范数与赋范线性空间定义1：如果线性空间V中的任一向量x，都对应—个实值函数()fx（记为x），并满足以下三个条件（称为范数公理）：(1)非负性：0x时,x＞0；0x时,x=0。(2)齐次性：ax=ax,aK，xV。(3)三角不等式：xy≤x+y，,xyV。则称x为V上向量x的范数（norm），V称为赋范线性空间（normedlinearspace）。易证xy满足距离公理，称之为x与y的范数诱导的距离。若0nxx，则称nx收敛于x，记为nxx。例1：对于连续函数空间[,]Cab中的向量()fx，可如下定义范数为：1()()baftftdt，()max()atbftft，1()()bpppaftftdt，1p。分别称之为1-范数，-范数，p-范数。注：需要用到数学专业的一些函数不等式，才能证明上述范数的正确性。性质1：对于赋范线性空间V上任意的x，定义实函数()fxx，则()fx为V上的连续函数，即0xx时，0()()fxfx，其中0xV。证明：由000()()fxfxxxxx可知，0xx时，0()()fxfx。因此，()fx为V上的连续函数。性质2：设P为n阶可逆矩阵，对于n维向量nxC，1x为nC中的一个范数，令21xPx，则2x也为nC中x的范数。证明：(1)非负性：0x时，0Px，210xPx；0x时,2100x。(2)齐次性：2112()axaPxaPxax，aK，xV。(3)三角不等式：211122xyPxPyPxPyxy，,xyV。因此，2x为nC中x的范数。注：内积空间是赋范线性空间，但赋范线性空间不一定构成内积空间。二、n维向量的p-范数(1)p定义2：对于n维向量12(,,,)TnnxC，11niix，称为x的1-范数，记为1x，由此诱导出的距离称为街区距离。12221()niix，称为x的2-范数，记为2x，由此诱导出的距离称为欧氏距离。1iinxmax，称为x的-范数，记为x，由此诱导出的距离称为棋盘距离（也称契比雪夫距离）。11()nppipix，称为x的p-范数，记为px。2HHPxPxxPPx，称之为加权范数或椭圆范数，其中P为可逆矩阵。定理1：对于n维向量nxC，pplimxx。注：几何意义上，向量PQ的2-范数、∞-范数和1-范数分别是斜边PQ长度、直角边PR长度以及两直角边PR和RQ的长度之和。三、范数的等价性定义3：对任意xV，满足不等式12CxxCx的两种范数称为是等价的。定理2：对于n维向量nxC，总成立着212xxnx，2xxnx，1xxnx，ppxxnx。定理3：设12,,,n是n维赋范线性空间E的一组基，则存在正数,AB，使得对一切1nkkkxE，成立着1221nkkAxBx。证明：10nkkkx时，令21nkkxy，12(,,,)nfy，则12(,,,)nf是有界闭集超球面211nkk上连续函数，从而必能取到最小值m和最大值M，且显然0m。取11,ABMm，即可证得定理的结论。结论1：有限维赋范空间的范数是等价的，即对于n维赋范线性空间E中的范数abxx，，存在正数,AB，使得对一切xE，成立着abaAxxBx。推论：范数abxx，等价时，0nanlimx等价于0nbnlimx。注：在nC中，各种p-范数均是等价的，从而对于不同的问题可灵活选用适当的范数。结论2：n维赋范线性空间必与n维向量空间nP同构并且同胚。设12,,,n是n维赋范线性空间E的一组基，对任何1nkkkxE，令12,,,nTx，则T为E到nP上的同构映射，并且由AxTxBx可知，T与1T均为连续映射，从而E与nP是同胚的。结论3：n维向量序列12(,,,)kkkTnknxC收敛于向量12(,,,)TnnxC的充分必要条件为,1,2,,kiiklimin，即按坐标收敛。§4.2矩阵范数及其相容性一、常见的矩阵范数定义1：设nnAC，称11222,1[()]()nHijijtrAAa为A的Frobenius范数或F-范数，记为FA。性质1：FA满足范数公理构成nnC中范数，并且1FEn。定理（F-范数的酉不变性）：设nnAC中范数，且,nnPQC都是酉矩阵，则FFFPAAQA，即给A左乘或右乘以酉矩阵后其F值不变(在nnAR时P和Q都是正交矩阵)。证明：1122[()][()]HHHFFPAtrAPPAtrAAA。由11222,1()[()]nHHijFFijAatrAAA及HQ也为酉矩阵可得，()HHHHFFFFFAQAQQAAA。推论：酉(或正交)相似变换下矩阵的F-范数保持不变。定义2：设nnAC，称1,1nijMijAa为1M-范数，1,ijMijnAnmaxa为M-范数。性质2：1,MMAA满足范数公理构成nnC中范数，并且11MEn，1MEn。二、矩阵范数的相容性定义3：满足条件ABAB的矩阵范数称为具有相容性。注：工程应用中的矩阵范数常要求满足非负性、齐次性、三角不等式和相容性，因此下文中矩阵范数总假定具有相容性。性质3：满足相容性的矩阵范数必有1E。性质4：若A可逆，则11AA。例1：Frobenius范数FA具有相容性。例2：1M-范数1MA和M-范数MA具有相容性，但范数1,ijijnAmaxa不具有相容性。三、矩阵范数与向量范数的相容性定义4：若VMVAxAx，则称矩阵范数MA与向量范数Vx具有相容性。注1：0Vx时，0VAx，即VAx是x的连续函数或Ax是V上线性连续算子。注2：当0x时，()VMVVVAxxAAxx，从而0VMxVAxmaxAx。例3：22FAxAx。注：视矩阵为线性变换时，通常要求线性变换是连续即有界的，因此自然有了相容性（包括范数的相容性）要求。§4.3矩阵的算子范数一、算子范数的概念定义：0VTxVAxAmaxx。注：一般算子范数的求解步骤：1、VVAxKx；2、0=1Vx，0=VAxK。二、算子范数的性质性质1：VTVAxAx。性质2：TTTABAB。性质3：1VTVMxAmaxAxA（假设MA与Vx具有相容性）。性质4：1TE。三、常见的算子范数1、列范数：11niixa，111nijjniAmaxa。设()nnijAaC，12(,,,)TnnxC，令12(,,,)TnAxy，其中1niijjja，1,2,,in。1111111()nnnnniijjijjiijijAxyaa1111111()()nnnnnijjjijijjnjijiiaaxmaxa。令11nijjniMmaxa，则11AxMx，从而1AM。不妨设01nijiMa，01jn。取00(0,,0,1,0,,0)jTx，则011x，并且0011nijiAxaM，因而1AM。由此可得，111nijjniAmaxa。2、行范数：1iinxmaxa，11nijinjAmaxa。设()nnijAaC，12(,,,)TnnxC，令12(,,,)TnAxy，其中1niijjja，1,2,,in。1111111()nnniijjijjijininininjjjAxymaxmaxamaxaxmaxa。令11nijinjMmaxa，则AxMx，从而AM。不妨设010nijjMa，01in。取000012(,,,)Tiiinxsignasignasigna，则01x，并且0000111nnijijijijinjjAxmaxasignaasignaM，因而AM。由此可得，11nijinjAmaxa。3、谱范数：221niixa，2()TmaxAAA。注：11E，21E，1E。例1：设200021012A，21,nSxxxC。求：（1）矩阵A的算子范数1A和A的值；（2）2Ax在S上的最大值。例2：设A为正规矩阵，则2()maxAA；A可逆时，121()minAA。证明：A为正规矩阵时，存在酉矩阵P，使得HAPDP，其中1nD。由此可得，212HHnAAPP，从而2()()HmaxmaxAAAA，并且当A可逆时，121()minAA。注：当A为酉矩阵时，21A。一般地，2()maxAA，121()minAA，其中()maxA和()minA分别是A的最大和最小奇异值。§4.4矩阵范数的应用一、矩阵的非奇异性条件定理1：设nnAC，且对nnC上的某矩阵算子范数，有1A，则矩阵EA非奇异，并且11()1EAA，1()1AEEAA。证明：对于任何0x，AxAxx，从而()0EAxxAx，即()0EAx，因此EA为非奇异阵。令1()EAxy，0x，则()xEAy，从而1()1()1EAxyyyxEAyyAyyAyA。由此可得11()1EAA。由1(())()EEAAEA可得，11()()EEAAEA，从而11()()1AEEAAEAA。注：假设EA为奇异阵，则0EA，从而1为A的特征值。由此可知，存在00x，使得00Axx，从而00Axx，这与000AxAxx矛盾，因而EA为非奇异阵。定理2：设nnAC非奇异，nnBC，且对nnC上的某矩阵算子范数，有11AB，则(1)+AB非奇异；(2)记11FEEAB，则111ABFAB；(3)11111(+)1AABABAAB。证明：由定理1可知，(1)1EAB可逆，从而1()AEABAB可逆。(2)1111()1ABEEABAB。(3)由11111(+)(())AABEEABA可得，11111(+)()AABEEABA，从而11111(+)1AABABAAB。注：对于具有相容性的一般矩阵范数，定理1、2的结论也成立。事实上，由第四章中矩阵幂级数理论可知，10()kkEAA，从而1001()1kkkkEAAAA。二、近似逆矩阵的误差—逆矩阵的摄动线性代数方程组Axb解的误差通常来自于常数项b的扰动和系数矩阵A的扰动，其程度取决于条件数1()condAAA的大小，这里总假定A可逆。显然，()1condA。对应矩阵的3种范数，相应地可以定义3种条件数(,1)