矩阵范数

1矩阵范数1.类似于向量范数的矩阵范数设mnAC×∈，与常用的向量范数类似，有矩阵范数111mnijijAa==′=∑∑，2211mnijijAa==′=∑∑，11maxijimjnAa∞≤≤≤≤′=它们都是范数p′•：111(),1mnppijpijAap==′=≥∑∑的特例。特别地，limppAA∞→∞′′=。将mnC×上的矩阵拉伸开来，即mn×维向量。因此，与之前常用向量范数之间的等价关系，同样的有：1Axmnx∞∞′′≤≤，212AAmnA′′′≤≤，2AAmnA∞∞′′′≤≤我们将A按列分块，记12(,,,)nAaaa=⋅⋅⋅，则221njFFjAa==∑。我们将A按行分块，记1TTmbAb⎛⎞⎜⎟=⎜⎟⎜⎟⎝⎠#，则22222111mmmTiiiFFFiiiAbbb======∑∑∑。我们还指出222THAAA′′′==，mnAC×∀∈这从其定义即可看出。我们还要指出22()()HHAtrAAtrAA′==。事实上，HAA的i行i列元素为211mmkikikikkaaa===∑∑。因此，22211()nmHkiiktrAAaA==′==∑∑。于是，2222(())()HHHHHAAtrAAtrAA′′===。2′•具有酉不变性。也就是对任意mnAC×∈和m阶酉矩阵U和n阶酉矩阵V，有22UAVA′′=。事实上，2222(()())()()()HHHHHHHUAVtrUAVUAVtrVAUUAVtrVAAVtrAAA′′=====上述论述用到了相似矩阵迹相等这个事实。22′•有如此良好的性质，我们单独将其拿出来研究，又称其为Frobenius范数，记为F•。2.相容矩阵范数任取,mnnlACBC××∈∈，AB有意义。(,)(,)(,),,mnnlml•••分别为,,mnnlmlCCC×××上的范数。我们希望(,)mlAB与(,)(,),mnnlAB有一定的关系。也就是：定义4(,)(,)(,),,mnnlml•••分别为,,mnnlmlCCC×××上的范数，如果对任意,mnnlACBC××∈∈，都有(,)(,)(,)mlmnnlABAB≤，则称这些范数是相容的。特别地，若nnC×上的范数•是相容的，则称其为相容矩阵范数，简称矩阵范数。Frobenius范数具有相容性，也就是：定理4FFFABAB≤,,mnnlACBC××∀∈∈。证明：首先，我们证明FFFAbAb≤，nbC∀∈。为此，我们将A按行分块，记为1TTmaAa⎛⎞⎜⎟=⎜⎟⎜⎟⎝⎠#，则11TTTTmmaabAbbaab⎛⎞⎛⎞⎜⎟⎜⎟==⎜⎟⎜⎟⎜⎟⎜⎟⎝⎠⎝⎠##，22222211mmTTiiFFFFFiiAbababAb===≤=∑∑。接着，将B按列分块，1(,,)lBbb=⋅⋅⋅，则1(,,)lABAbAb=⋅⋅⋅,于是22222222111111lllFFFFFFFFjjjABAbAbAbAB====≤==∑∑∑因此，FFFABAB≤，结论得证！相容矩阵范数的具有如下重要的性质：定理5设•为nnC×上相容的矩阵范数，则()AAρ≤，nnAC×∀∈。证明：任取A的特征值λ，设x为相应的特征向量，则Axxλ=。则(,0,,0)(,0,,0)AxAx⋅⋅⋅≤⋅⋅⋅⋅但另一方面，(,0,,0)(,0,,0)(,0,,0)(,0,,0)(,0,,0)AxAxxxxλλλ⋅⋅⋅=⋅⋅⋅=⋅⋅⋅=⋅⋅⋅=⋅⋅⋅⋅因此，(,0,,0)(,0,,0)xAxλ⋅⋅⋅⋅≤⋅⋅⋅⋅。0x≠，(,0,,0)0x⋅⋅⋅≠，(,0,,0)0x⋅⋅⋅，3因此，Aλ≤。结论得证！如下的定理指出相容矩阵范数和向量范数之间的关系。定理6设•为nnC×上相容的矩阵范数，必存在与•相容的矩阵范数。证明：任取nxC∈，定义()n•：()(,0,,0)nxx=⋅⋅⋅，nxC∀∈。对任意nnAC×∈，()()(,0,,0)(,0,,0)(,0,,0)nnAxAxAxAxAx=⋅⋅⋅=⋅⋅⋅≤⋅⋅⋅⋅=⋅结论得证！定理4就指出了F•范数和Euclid范数2•是相容的。3.诱导矩阵范数如下讲述一种相容矩阵范数的构成方式——诱导矩阵范数。定理7设()(),mn••分别为,mnCC上的范数，定义()(,)()0supnmmnnxCAxAx≠∈=则(,)mn•为mnC×上的范数。证明：首先，我们说明其有意义，也就是()()0supnmnxCAxx≠∈+∞。根据范数等价性，存在常数10c，使得mxC∀∈，有()1mFxcx≤。再根据F−范数的相容性，有()11()()()mFFFnnncAxcAxAxxxx≤≤再根据范数的等价性，存在常数20c，使得()2nFxcx≤。因此，()()11212()()()()nmFFFnnnFcAxcAcxAxccAxxx≤≤=因此，()12()0supnmnFxCAxccAx≠∈≤+∞。接下来，逐一验证其满足范数的三大性质即可。4(1)正定性显然，()(,)()0sup0nmmnnxCAxAx≠∈=≥。如果(,)0mnA=，则()()0sup0nmnxCAxx≠∈=。于是，()()0mnAxx=，()0mAx=，即0Ax=，0nxC∀≠∈。因此，0A=。(2)齐次性()()(,)(,)()()00supsupnnmmmnmnnnxCxCkAxkAxkAkAxx≠∈≠∈⋅===⋅(3)三角不等式任取,mnABC×∈，则()()()()()(,)()()()()000()()(,)(,)()()00()supsupsup()supsupnnnnnmmmmmmnnnnnxCxCxCmmmnmnnnxCxCABxAxBxAxBxABxxxxAxBxABxx≠∈≠∈≠∈≠∈≠∈+++=≤=+≤+=+称这样的范数为()(),mn••诱导出的向量范数。特别地，若mn=，则称(,)nn•为()n•诱导出的矩阵范数。(,)mn•与()(),mn••是相容的。事实上，,0mnnACxC×∀∈≠∈，(,)(,)()(,)()()mnmnnmnnnAxAxxAxx=≤。至于0x=，二者相等。总之，有(,)(,)(),,0mnmnnmnnAxAxACxC×≤∀∈≠∈。(,)mnA还可以按照如下方式来进行计算。推论1()(,)(),1supnnmnmxCxAAx∈==。证明：事实上，()()()()()(,)()()0,1,1supsupsupnnnnnmmmmnnnxCxCxxCxAxAxAxAxx≠∈∈=∈==≤=另一方面，5()()()(,)()()()00,1supsupsupnnnnmmmnmnnxCxCyCyAxxAAAyxx≠∈≠∈∈===≤因此，()(,)(),1supnnmnmxCxAAx∈==。推论2()(,)(),1maxnnmnmxCxAAx∈==，也就是说上确界是可以取到的。证明：取{}()1nnKxCx=∈=，则K为闭集。事实上，任取K中序列{}kx，使得limkkxx→∞=，则()()limnnkkxx→∞=(定理1)。另一方面，()mAx是x的连续函数。闭集上的连续函数必最大值，即上确界可取得。因此，()(,)(),1maxnnmnmxCxAAx∈==。4.常见的诱导矩阵范数①矩阵1−范数称由向量的1-范数诱导出来的矩阵范数为矩阵的1-范数，记为1•。1(),,1mnnijAaCxCx×∀=∈∈=，11()nniijjijjjjAxaxax===≤∑∑，11111111111111(max)maxmnmnnmnmikkikkikkkikikikkikinmmkijijjnjnkiiAxaxaxaxxaxaa========≤≤≤≤====≤==≤=∑∑∑∑∑∑∑∑∑∑∑因此，111maxmijjniAa≤≤=≤∑。另一方面，我们假设A第0j列为A的1-范数最大的列，je为n阶单位阵的第j列，1,,jn=⋅⋅⋅，011je=，而00011111maxmmjjijijjniiAeaaa≤≤=====∑∑。因此，0111maxmjijjniAAea≤≤=≥=∑。这样，111maxmijjniAa≤≤==∑。矩阵的1−范数为相容矩阵范数。事实上，,,mnnllACBCxC××∀∈∈∈，有1111111()ABxABxABxABx=≤≤，6因此，111ABAB≤。②矩阵的∞−范数称由向量的∞−范数诱导出来的矩阵范数为矩阵的∞−范数，记为∞•。(),,1mnnijAaCxCx×∞∀=∈∈=，111111()1maxnnnnniijjijjijijijimjjjjjAxaxaxaaa≤≤======≤≤⋅=≤∑∑∑∑∑，因此，111maxnijimjAa≤≤=≤∑。另一方面，假设A的第0i行为行所有元素模之和最大的一行。取nxC∈，0000,,1,0,1,2,,,0ijjijijijaxjnaaa≠⎧⎪⎪==⋅⋅⋅⎨≠⎪⎪⎩，则1x∞=，并且00ijjijaxa=，00011()nniijjijjjAxaxa====∑∑，0111maxnnijijimjjAxaa∞≤≤====∑∑矩阵的∞−范数也是相容的范数。事实上，,,mnnllACBCxC××∀∈∈∈，有()ABxABxABxABx∞∞∞∞∞∞∞=≤≤，因此，ABAB∞∞∞≤。矩阵的1−范数和∞−范数还有一个天然的联系，那就是1TAA∞=。③矩阵的2−范数称由向量的2−范数诱导出来的矩阵范数为矩阵的2−范数，记为2•。(),mnnijAaCxC×∀=∈∈，22(,)()()()HHHAxAxAxAxAxxAAx===。HAA为Hermite半正定矩阵，有规范正交的特征向量组，设为12,,,nuuu⋅⋅⋅，并设相应的特征值为120nλλλ≤≤⋅⋅⋅≤。对任意的nxC∈，均可由12,,,nuuu⋅⋅⋅唯一地线性表示，设为1122nnxuuuξξξ=++⋅⋅⋅+，这样，72112211221111222222212(,)(,)(,)(,)(,)nnnnnnnnnxxxuuuuuuuuuuuuξξξξξξξξξξξξξξξ==++⋅⋅⋅+++⋅⋅⋅+=++⋅⋅⋅+=++⋅⋅⋅+2112211222112211221122111222111222()()()()()()()()HHHHnnnnHHHHHHnnnnHHHnnnnnnnnAxxAAxuuuAAuuuuuuAAuAAuAAuuuuuuuξξξξξξξξξξξξξξξξλξλξλλξξλξξλξξ==++⋅⋅⋅+++⋅⋅⋅+=++⋅⋅⋅+++⋅⋅⋅+=++⋅⋅⋅+++⋅⋅⋅+=++⋅⋅⋅[phone]()nnnnnnnxλξλξλξλξξξλ≤++⋅⋅⋅+=++⋅⋅⋅+=22nAxxλ≤因此，2()HnAAAλρ≤=。但另一方面，我们又有22()()HHHnnnnnnnAuuAAuuuλλ===，也就是说2nnAuλ=。因此，2()HAAAρ=。矩阵的2−范数具有相容性。事实上，,,mnnllACBCxC××∀∈∈∈，有222222ABxABxABx≤≤也就是说222ABAB≤。按照这个计算公式，当1mxAx⎛⎞⎜⎟=⎜⎟⎜⎟⎝⎠#，21nHiiAAx==∑，221()nHiiAAAxρ===∑。这与之前定义的向量的2−范数一样。当1(,,)nAxx=⋅⋅⋅时，11(,,)HnnxAAxxx⎛⎞⎜⎟=⋅⋅⋅⎜⎟⎜⎟⎝⎠#。若0A≠，其特征值只有0(1n−重)和1211(,,)nniinxxxxx=⎛⎞⎜⎟⋅⋅⋅=⎜⎟⎜⎟⎝⎠∑#。若0A=，则特征值全为0。无论哪一种情形，都有221()nHiiAAAxρ===∑。这与之前向量的2−范数也是一样的。82−范数具有酉不变性，即对任意m阶酉矩阵U和n阶酉矩阵V，都有22UAVA=。事实上，22()()()HHHHHUAVVAUUAVVAAVAAAρρρ====(相似矩阵有相同的特征值)以下还将说明矩阵2−范数的一系列良好的性质。定理8设mnAC×∈，则(1)2222222,1,1,1,1maxmaxmmnnHTxCxxCxyCyyCyAxAyxAy∈=∈=∈=∈===；(2)222HTAAA==