向量与矩阵的范数.ppt

第二章范数理论2.1向量范数定义：若对任意都有一个实数与之对应，且满足：（1）非负性：当只有且仅有当（2）齐次性：为任意数。0,0xx0,0.xx,kxkxk（3）三角不等式：对任意，都有,nxyC.xyxy则称为上向量的范数，简称向量范数。nxCxxnCx例：在维线性空间中，对于任意的向量定义nnC12(,,,)TnnaaaC11122211(1)(2)()(3)maxniiniiiinaaa证明：都是上的范数，并且还有nC12,,'1'212'2(1)(2)(3)nnn引理设均为非负实数，则总有1,1pq111pqpquvuvpq,uvqniqipnipiiniibaba11111)()(Holder不等式：设1212,,,,,,,TTnnnaaaabbbbC111pq证：令，，其中iaumibvn1111,pqpqnniiiimanb11()pqiiiipqababmnpmqn111111()pqpqnniiiimnabpq11111()nnnpqiiiipqiiiabmnabpmqn代入上述不等式，则有Minkowski不等式：设则对任何都有1212,,,,,,,TTnnnaaaabbbbC1p111111()()()nnnppppppiiiiiiiabab证明以代入下式则111nnppiiiiiiiiababab1pqp11nnppqiiiiiiiiababab11nnppqqiiiiiiiiaabbab对上式由Holder不等式可得11111()()nnnppppqiiiiiiiiabaab1111()()nnpppqiiiiibab111111[()()]()nnnpppppqiiiiiiibbab此不等式两端同除以，根据可得11()npqiiiab111pq111111()()()nnnppppppiiiiiiiabab几种常用的范数定义：设向量，对任意的数，称为向量的范数。p12,,,Tnaaaa1p11()nppipiaaa（1）1－范数（2）2－范数(也称为欧氏范数)（3）－范数1212221()()nHiiaaaa1maxiinaa11niiaa利用向量范数可以构造新的向量范数。例1设是上的向量范数，且，则由所定义的是上的向量范数。mCa,()mnACrankAn,nbaxAxxCbnC定义设是上定义的两种向量范数，如果存在两个正数使得则称向量范数等价。,ab12,dd12,nbabddC,ab定理上的任意两个向量范数都是等价的。nCnC向量范数的应用：定义：给定中的向量序列，其中如果则称向量序列收敛于简称收敛，记为不收敛的向量序列称为是发散的。nC(){}kx()()()()12{}(,,),0,1,2,kkkkTnxk(),(1,2,)limkjjkjn12{}(,,),Tnx(){}kx(){}kx(),(0,1,2,)limkkxxjn定理：中的向量序列收敛于的充要条件是对于上的任意一种向量范数，都有。nC(){}kxx()0limkkxx证明：设则有可见的充要条件是对于上的任意一种向量范数，由等价性知()()()()12(,,),kkkkTnx(),(1,2,)limkjjkjnnC()()()()1maxnkkkkjjjjjjjjxxnC()()().kkkxxxxxx()lim0.kkxx从而的充要条件是。()0limkkxx()lim0kkxx12(,,),Tnx定义对于任何一个矩阵，都有一个实数与之对应，且满足A（1）非负性：当，当且仅当（2）齐次性：为任意复数。（3）三角不等式：对任意都有0,0AA0,0AA,kAkAk,nnABCABAB2.2矩阵范数nnAC（4）相容性：对于任意，都有则称是矩阵的范数。,nnABCABABAA例1对于任意，定义可以证明如此定义的为矩阵的范数。111mnijmijAaA1mA1m()nnijAaC证明只需要验证此定义满足矩阵范数的四条性质即可。非负性，齐次性与三角不等式容易证明。现在我们验证乘法的相容性。设，则,nnnnACBC111111111111111111111[()()][()()]()()nnnnnnikkjikkjmijkijknnnnikkjijkknnnnikkjikjknnnnikkjmmikjkABabababababAB例2设矩阵，证明：是矩阵的范数。证明：非负性，齐次性和三角不等式容易证得。现在我们考虑相容性。设，那么nnAC,maxijmijAna,nnnnACBCm,,11,,,,maxmaxmaxmaxmaxmaxnnikkjikkjmijijkkikkjikkjikkjikkjmmABnabnabnnabnanbAB因此为矩阵的范数。mAA例3对于任意，定义可以证明也是矩阵的范数。我们称此范数为矩阵的Frobenious范数。证明此定义的非负性，齐次性是显然的。利用Holder不等式和Minkowski不等式容易证明三角不等式。现在我们验证乘法的相容性。设，则111222211()[()][()]nnHHijFijAaTrAATrAAFAAA,nnnnACBCnnAC22211111122111122111122()[()()]()()nnnnnnikkjikkjFijkijknnnnikkjijkknnnnikkjikjkFFABababababAB于是有FFFABABFrobenious范数的性质：（1）如果，那么（2）（3）对于任意阶酉矩阵都有等式12nA2221niFiA21()()nHHiFiATrAAAAn,UVHFFFFFAAUAAVUAV（酉不变性）关于矩阵范数的等价性定理。定理设是矩阵的任意两种范数，则总存在正数使得,AA12,ddA12,mndAAdAAC与向量范数的相容性定义设是向量范数，是矩阵范数，如果对于任何矩阵与向量都有则称矩阵范数与向量范数是相容的。例1矩阵的Frobenius范数与向量的2-范数是相容的.证明因为xAAXAxAxAx12211()mnijFijAa1212221()()nHiiXxXX根据Holder不等式可以得到222211112211122111222()[()()]()()mnmnijjijjijijmnnijjijjmnnijjijjFAXaxaxaxaxAX22FAXAX于是有如何由矩阵范数构造与之相容的向量范数？定理2设是矩阵范数，则存在向量范数使得证明对于任意的非零向量，定义向量范数，容易验证此定义满足向量范数的三个性质，且mAxmAxAxHmxxHHmmmmAxAxAxAx算子范数(如何由向量范数构造与之相容的矩阵范数？)定理设是向量的范数，则满足矩阵范数的定义，且是与向量范相容的矩阵范数。上面所定义的矩阵范数称为由向量范数所导出的从属范数或算子范数。证明首先我们验证此定义满足范数的四条性质。非负性，齐次性与三角不等式易证。现在考虑矩阵范数的相容性。x0maxxAxAxAxx000maxmax()maxxxxABxABxABxxBxAxAB因此的确满足矩阵范数的定义。A0maxxAxAxAxAAxAxx由由向量P--范数所诱导的矩阵范数称为矩阵P--范数。即常用的矩阵P--范数为，和。px0maxppxpAxAx1A2AA定理设，则（1）我们称此范数为矩阵的列和范数。nnAC11max(),1,2,,nijjiAajnA（2）表示矩阵的第个特征值。我们称此范数为矩阵的谱范数。（3）我们称此范数为矩阵的行和范数。122max(()),()HHjjjAAAAAHAAjA1max(),1,2,,nijijAainA210023120A计算，，和。解1A2AAFA15A5A23FA例1设215A123500096=3515069HAA，，，，因为所以0110000iAi练习设分别计算这两个矩阵的，，和。2A1AAFA定理设，为阶酉矩阵，则（1）nnAC22HAA（3）若是正规矩阵，且是的个特征值，则2222;UAAVUAVA2max.iiAVU和n（2）A12,,,nAn2.3范数应用举例矩阵的谱半径及其性质定义设，的个特征值为，我们称为矩阵的谱半径。定理设，那么nnACnA12,,,n()maxiiAAnnAC()AA这里是矩阵的任何一种范数。定理设则（1）（2）（3）当是一个正规矩阵，则.AAA2()AA,nnAC()[()];kkAA22()();HHAAAAA定理设对任意的存在某一矩阵范数，使得m,nnAC0,().mAA矩阵的条件数：设是上的矩阵范数，称为矩阵的条件数。A,nnnACnnC1()condAAA例如果，则均为可逆矩阵。1AIA1111()condAAA1()condAAA