第三讲 线性方程组的解法3

矩阵的“范数”是对向量和矩阵的大小的一种度量,可以看作是是二维和三维向量长度概念的推广。数域:数的集合,对加法、乘法和除法（除数不为零）封闭。线性空间:线性代数中向量空间概念的抽象和推广,定义了元素的加法与乘法，且满足8条运算规律。向量空间§3.5向量和矩阵的范数n维向量的非空集合，对于加法及数乘两种运算封闭。定义,xRnn中任意一个向量维向量空间对于xR若存在一个实数与它对应，且满足(1)()0,00;xxx正定性且;,)()2(RRxxxn，齐次性.,)()3(nRyxyxyx，三角不等式.的范数为向量则称xxnC对于复线性空间中的向量范数可以类似定义.一、向量的范数TnnnxxxxCR),,,(,)(21设中在向量空间的范数有常用的向量x2x2122221)(nxxx范数或欧氏范数的2x1xnxxx21范数的1xxinix1max范数的x--------(1)--------(2)--------(3)pxppnppxxx121)(,1xpp的范数。2x和1x显然时的特例和在是21ppxp由于pxx所以也是的特例--------(4)()pxxp时（三角不等式的验证困难一些）例题求下列向量的各种常用范数Tx)1,3,4,1(解:1x421xxx92x21242221)(xxx3327xiix41max4范数的性质性质1yxyxRyxn则,,性质2,,nnRxxxMmxRmxxMx中任意两种范数和总存在两个与无关的正常数和，使有2性质称为范数的等价性质。Px为了方便，经常采用如下简单记号或。证明稍复杂些定义(向量序列收敛),2,1,21kxxxxknkkk设有向量序列nxxxx21和向量(12),lim1,2,,kiikiinxxin若对所有，，都有xxxxkkklim,记作收敛于则称向量序列可用向量范数的大小判断向量序列的收敛性。定理nkRxx对上的任何一种向量范数，向量序列收敛于的充要条件是时当kxxk0证明：limkkxxni,2,10kxxklimkiikxxlim0kiikxx（）kxxxxkk00*lim0kkkxxxxk即使，存在上任何一种范数对,0,mMRnxxMxxxxmkkk定义,ARnn中任意一个矩阵对于空间对应，且满足与若存在唯一一个实数ARA(1)()000;AAA正定性，(2)();AAR齐次性，(3)()ABAB三角不等式，.的范数为矩阵则称AAnnC复空间中的矩阵范数可以类似定义..,)4(nnRBABAAB，二、矩阵的范数定义（相容范数）nnnRR假设在中规定了一种矩阵范数，在中规定nnRA了一种向量范数，若对中的任何一个矩阵，恒有不等式中的任何一个向量和xRnxAAx成立，则说上述矩阵范数和向量范数是相容的。定义（算子范数，诱导范数，从属范数）,,,nnnvxRARx设且给出一种向量范数则称n0RmaxvvxvxAxAxA为矩阵的算子范数。可以证明它满足矩阵范数的4个条件()vvvAxAx1)1(Aniijnja11max,大值的每列绝对值之和的最A的列范数称AA)2(njijnia11max,大值的每行绝对值之和的最A的行范数称A2)3(A)(maxAATmax()TTAAAA为的最大特征值.2A称的范数--------(5)--------(6)--------(7)可以得到从属于1-范数、2-范数、-范数的矩阵范数nnijaAn)(阶方阵设21112ninjijFaA不难验证其满足定义2的4个条件。是一种矩阵范数因此FA称为Frobenius范数,简称F-范数（又称为Schur范数）还有一种常用的矩阵范数，类似向量的2-范数1122tr()tr()TTFAAAAA，而且可以验证tr为矩阵的迹。1(12)maxnniiininARnAA设，，，为矩阵的个特征值，称为矩阵的谱半径。定义定理AnnAR矩阵的谱半径不超过的任一种算子范数。Axx证明vvvvvAxxxAxvvAAA例题求矩阵A的各种常用范数110121021A解:1Aniijnja11max2523425}2,5,2{max1njAnjijnia11max4}2,4,3{max1ni2A)(maxAAT由于的特征值因此先求AATAAT110121021110122011211190102特征方程为)det(AAIT2111901020的特征值为可得AAT9361.0,9211.2,1428.93211428.9)(maxAAT2A)(maxAAT0237.3FAtr()TAA2926056.31AA2AFA容易计算计算较复杂;对矩阵元素的变化比较敏感;性质较好;使用最广泛.不是算子范数较少使用三、方程组的性态和条件数用数值方法解线性方程组时，计算结果有时不准确。原因主要可能在两个方面。1.计算方法设计不合理；2.方程组本身有问题，再好的方法也无济于事。关于第一个原因，我们在前面已经有这方面的例子，例如用Gauss消去法解线性方程组(用3位十进制浮点数计算）210001.02121xxxx关于第二个原因，请看下例：例4.如下两个方程组00001.800001.628622121xxxx1121xx00002.899999.528622121xxxx21021xx12722121xxxx例5.如下两个方程组003.10009.12722121xxxx3121xx00006.399998.021xx定义,.AxbAb对于线性方程组如果系数矩阵或常数项的元素的微小变化,就会引起方程组解的巨大变化,则称该方程组是病态的,否则称为良态的1.bb常数项的扰动对方程组解的影响,,AxbAx设为一线性方程组为非奇异为其精确解xbb则解也应存在误差存在误差若常数项,即有bbxxA)(bxAbAx1bAx1bA1AxbxAbAx1bbAAxx1--------(8)--------(9)--------(10)所以又因为可得(8)和(9)两式相乘,得相对误差上式表明，由常数项产生的误差,最多可将解的相对误差放大倍。1AA2.AA系数矩阵的扰动对方程组解的影响bxxAA))((xAA则解也应存在误差存在误差若系数矩阵,0xAxAxA)(xxAxAbxAxAAxAx11AA如果假设则)(1xxAAxxxAAxxAAx11)(xAAxAA111111AAAAAAAAAAAAxx111--------(11)3.,AAbb系数矩阵有扰动同时右端项有扰动，则此时解也应存在误差x定义称为非奇异矩阵设,A.,为某种范数其中的条件数为A1cond()AAA同理可推导得bbAAAAAAxx111bbxxAA显然1cond()AAA1AAI1即任意方阵的条件数不小于1根据范数的不同也有不同的条件数:1111cond()AAA1cond()AAA1222cond()AAA)(1)(minmaxAAAATT)()(minmaxAAAATTcond(A)xbxb--------(12)xx--------(13)根据矩阵范数定义,(10)式和(11)式可表示为cond()AAA)1(时AA-----(14)cond()AbA由系数矩阵和常数项的扰动引起的解的相对误差放大倍数不超过倍1condA1AAAAcond()A即条件数是刻划原始数据变化对解的影响的指标.cond(),A一般越大解的相对误差也可能越大cond(),AAxb因此很大时就可能是病态方程组6.2线性方程组的迭代法§用直接法解线性方程组时要对系数矩阵不断变换如果方程组的阶数很高,则运算量将会很大,并且大量占用计算机资源.因此对线性方程组bAx有必要寻找更经济、适用的数值解法，迭代方法就是一种适合这个要求的方法.(,,)nnnnARbRxR--------(1)如果能将线性方程组(1)变换为等价形式xBxd--------(2),,nnnnBRdRxR其中则可以对线性方程组(2),采用以下迭代格式:(1)()kkxBxd),2,1,0(k-----(3)(){}kx迭代法产生一个迭代序列，如果其极限存在,*)(limxxkk则称迭代法收敛,x*就是方程组的解。否则称为发散。即一、简单迭代法(Jacobi迭代法)设线性方程组(1)的一般形式为11212111bxaxaxann22222121bxaxaxannnnnnnnbxaxaxa2211),,2,1(0niaii设ix则可从上式解出,1111()()nniiijjiiijjjjiiiijixbaxxbaxaa--------(4))(11)()()1(njkjijiiikikixabaxx根据上式作迭代过程(1,2,,;0,1,2,)ink1122diag(,,,)nnDaaa令则(4)式转化为矩阵形式)()(1)()1(kkkAxbDxxbDAxDxxkkk1)(1)()1((1)1()1()kkxDDAxDb--(5)令0000002121nnaaaL0000002112nnaaaUULDAULADA的下三角部分的负矩阵A的上三角部分的负矩阵则有故迭代过程(5)化为bDxULDxkk1)(1)1()(11(),EDLUdDb令，于是有(1)()(0,1,2,)kkxExdk等价线性方程组为xExdbAx简单迭代法的更一般形式可以采用如下方法得到11ACDCCDxbCxDxbxCDxCbxExd令，为非奇异。则方程组变为（）),2,1,0(k------(6)称(6)式为解线性方程组(1)的Jacobi迭代法。JacobiE为迭代法的迭代矩阵.(1)()kkxExd取迭代格式例题用Jacobi迭代法求解方程组,运算保留4位小数1233204121114238321xxx解:4121114238A4000110008D31084410,11111102