第二章 范数理论及其应用

第二章范数理论及其应用定义：设V是实数域R（或复数域C）上的n维线性空间，对于V中的任意一个向量按照某一确定法则对应着一个实数，这个实数称为该向量的范数，记为，并且要求范数满足下列条件：（1）非负性：当（2）齐次性：，k为实数(或复数)（3）三角不等式：例：线性空间任何内积定义的长度即为范数。0,0向量的范数||||||||||kk),(V例：在n维酉空间Cn中，对于任意的向量分别定义（1）（2）（3）证明都是Cn上的范数，并且还有12(,,,)nnaaaCniia1121122)(niiainia1max12,,||||||||||||)3(||||||||||||)2(||||||||||||)1(22121nnn引理（Holder不等式）：设1212,,,,,,,TTnnnaaabbbC则(p1,q1,)11111()()nnnpqpqiiiiiiiabab111qp引理（Minkowski不等式）：设则对任何p≥1都有1212,,,,,,,TTnnnaaabbbC111111()()()nnnppppppiiiiiiiabab证明以代入下式则111nnppiiiiiiiiababab1pqp11nnppqiiiiiiiiababab11nnppqqiiiiiiiiaabbabqnipiipnipibaa1111)()(qnipiipnipibab1111)()(111111[()()]()nnnpppppqiiiiiiibbab此不等式两端同除以，根据可得11()npqiiiab111pq111111()()()nnnppppppiiiiiiiabab定义：设向量，对任意的数，称为向量的p-范数。常用的p-范数：（1）1-范数（2）2-范数（3）∞-范数12,,,Tnaaa1p11()nppipia11niiaP-范数(向量范数)1212221()()nHiiainippa1maxlim证明：令，则于是有另一方面1maxiinxa,1,2,,iiayinx11()nppipixy111111()npiinpppiiynyn11lim()1nppipiy故由此可知xpplim利用已知向量范数可以去构造新的范数。例1设是Cm上的向量范数，且(m≥n)，则由所定义的是Cn上的向量范数。例2设V数域数域F上的n维线性空间，为其一组基底，那么对于V中的任意一个向量可唯一地表示成又设是Fn上的向量范数，则由所定义的是V上的向量范数。b,()mnACrankAn,nabACa12,,,n121,,,,nniinixXxxxFVXV定义设是n维线性空间V上定义的两种向量范数，如果存在两个与无关的正数d1,d2使得则称该两范数等价。定理有限维线性空间V上的任意两个向量范数都是等价的。12,babddV范数等价ba,定义对于任何一个矩阵，用表示按照某一确定法则与矩阵A相对应的一个实数，且满足（1）非负性：当，当（2）齐次性：为任意复数。（3）三角不等式：对于任意两个同阶矩阵A,B都有（4）矩阵乘法的相容性：对于任意两个可以相乘的矩阵A,B，都有那么我们称是矩阵A的范数。A0,0AA0,0AA,kAkAkABABmnAC矩阵范数ABABA例1对于任意，定义证明如此定义的||A||为矩阵A的范数。证明只需要验证此定义满足矩阵范数的四条性质即可。非负性，齐次性与三角不等式容易证明。现在验证乘法的相容性。设，则mnAC11mnijijAa,mppnACBCminjpkkjikminjpkkjikbabaAB111111minjpkkjpkikba1111BAbanjpkkjmipkik1111例2设矩阵，证明：是矩阵范数。证明：非负性、齐次性和三角不等式容易证得。现在我们考虑乘法的相容性。设，那么nnAC,maxijijAna,nnnnACBC,,11,,,,maxmaxmaxmaxmaxmaxnnikkjikkjijijkkikkjikkjikkjikkjABnabnabnnabnanbAB因此为矩阵A的范数。A例3对于任意，定义可以证明也是矩阵A的范数。我们称此范数为矩阵的Frobenious范数。证明：此定义的非负性、齐次性是显然的。利用Minkowski不等式容易证明三角不等式。现在我们验证乘法的相容性。设，则mnAC12211()mnijFijAaA,mllnACBCminjpkkjikminjpkkjikFbabaAB112111212)(||minjpkkjpkikba111212)()(22112112BAbanjpkkjmipkik于是有例4对于任意，定义证明如此定义的是矩阵A的范数。证明首先注意到这样一个基本事实，即由上一个例题可知此定义满足范数的性质。nnAC12[()]HATrAAA1122211[()]()mnHijijTrAAaFFFABAB（1）如果，那么（2）（3）对于任何m阶酉矩阵U与n阶酉矩阵V都有12nA2221niFiA21()()nHHiFiATRAAAAFrobenious范数的性质HFFFFFAUAAAVUAV定理设是矩阵A的任意两种范数，则总存在正数d1,d2，使得12,mndAAdAAC矩阵范数的等价性AA,定义设是向量范数，是矩阵范数，如果对于任何矩阵A与向量X都有则称矩阵范数与向量范数是相容的。例1矩阵的Frobenius范数与向量的2-范数是相容的。证明因为XAAXAXAX12211()mnijFijAa诱导范数(从属范数)1212221()()nHiiXxXX根据Hoider不等式可以得到222211112211122111222()[()()]()()mnmnijjijjijijmnnijjijjmnnijjijjFAXaxaxaxaxAX于是有22FAXAX例2设是向量的范数，则满足矩阵范数的定义，且是与向量范数相容的矩阵范数。证明首先我们验证此定义满足范数的四条性质。非负性，齐次性与三角不等式易证。现在考虑矩阵范数的相容性。设向量X1满足||X1||α=1，且||AB||i=||ABX1||α，则XiAX||1||||||1BXAABXABii||||max)max||||1||||0AXXAXAXXiiiBA||||||||因此满足矩阵范数的定义。最后证明与是相容的。由上面的结论可知这说明与是相容的。定义上面所定义的矩阵范数称为由向量范数所诱导的诱导范数或算子范数，也称为的从属范数。iAXiAiiAXAXAXAXiAXXiAX向量p-范数所诱导的矩阵范数称为矩阵p-范数，即常用的矩阵p-范数为，和。定理设，则（1）称此范数为矩阵A的列和范数。（2）表示矩阵AHA的第j个特征值。我们称此范数为矩阵A的谱范数。pX0maxppXpAXAX1A2AAmnAC11max(),1,2,,mijjiAajn122max(()),()HHjjjAAAAA（3）我们称此范数为矩阵A的行和范数。证明：记（1）设||X||1=1，则minjjijminjjijxaxaAX11111||||||||||minjjijjnjmijijxaxa1111|||)|max(|||)|(1max(),1,2,,nijijAaim,)(nmijaATnxxxX),,,(21miijja1||max设j=k为其最大者,令X的第k个坐标为1，其它都为零，则miijjaAX11||max||||即miijjaA11||max||||（2）设||X||2=1，由0||||22AXAXAXHH因为AHA为半正定共轭对称矩阵，因此存在非负实特征值n21因此有及其标准正交特征向量nppp,,,21nnpppX22112222211nnHHAXAX1222211)(n取X=p1，则有1AXAXHH即12||||A（3）设||X||∞=1，则||||max||max||||11njjijinjjijixaxaAXnjijia1||max设i=k为其最大者,令X的第j个坐标为miijjaAX11||max||||即miijjaA11||max||||0||00kjkjkjkjjaaaax则有例1设，计算，，和。解因为，所以210023120A1A2AAFA15A5A23FA215A500096069HAA例2证明：对于任何矩阵都有mnAC11222222221HTHTHAAAAAAAAAAAA||||||||||||11AAATH证：容易证明下面证明222||||||||||||AAATH设AAH的一个非零特征值为λ，对应特征向量为p，则有ppAAH)()(pApAAAHHH因此AHp为AHA的非零特征向量，对应特征值为λ，即AAH的非零特征值都是AHA的特征值。类似可以证明，AHA的非零特征值都是AAH的非零特征值。因此AAH与AHA具有相同非零特征值。因此。另一方面，由22||||||||AAHTHTHTAAAA)()(知(AT)HAT与AAH有相同的特征值，因此其余不等式证明作为练习。22||||||||THAA如何由矩阵范数构造与之相容的向量范数？定理设是矩阵范数，则存在向量范数使得证明对于任意的非零向量，定义向量范数容易验证此定义满足向量范数的三个性质，且*AX*AXAX*HXX****HHAXAXAXAX例3设是上的相容矩阵范数。证明：（1）（2）为可逆矩阵，为的非零特征值，则有nnC1IAA11AA范数的应用矩阵的非奇异性条件定理1：设，且对范数有，则I-A非奇异，且证明：用反证法，假设I-A奇异，则方程有非零解β≠0,选取与矩阵范数相容的向量范数，于是有矛盾，因此I-A非奇异。1AAIAI1)(1AAnnCA0)(xAI再由AAIAIAIAII111)()()()(知AAIIAI11)()(AAII1)(AAII1)(于是得AIAI1)(1矩阵的非奇异性条件定理2：设，且对范数||||有||A||1，则有证明：由于，知(I-A)-1存在，由AAAII1)(1nnCA1A111)()())((AIAAAIAAIAIAA知11)()(AIAAAAIA1)(AIAAA即AAAIA1)(1再由111)()())((AIAAIAIAII得AAAI