习题11.求下三角阵的逆矩阵的详细算法。[解]设下三角矩阵L的逆矩阵为T我们可以使用待定法,求出矩阵T的各列向量。为此我们将T按列分块如下:注意到我们只需运用算法1·1·1,逐一求解方程便可求得[注意]考虑到内存空间的节省,我们可以置结果矩阵T的初始状态为单位矩阵。这样,我们便得到如下具体的算法:算法(求解下三角矩阵L的逆矩阵T,前代法)3.证明:如果是一个Gauss变换,则也是一个Gauss变换。[解]按Gauss变换矩阵的定义,易知矩阵是Gauss变换。下面我们只需证明它是Gauss变换的逆矩阵。事实上注意到,则显然有从而有4.确定一个Gauss变换L,使[解]比较比较向量和可以发现Gauss变换L应具有功能:使向量的第二行加上第一行的2倍;使向量的第三行加上第一行的2倍。于是Gauss变换如下5.证明:如果有三角分解,并且是非奇异的,那么定理1·1·2中的L和U都是唯一的。[证明]设,其中都是单位下三角阵,都是上三角阵。因为A非奇异的,于是注意到,单位下三角阵的逆仍是单位下三角阵,两个单位下三角阵的乘积仍是单位下三角阵;上三角阵的逆仍是上三角阵,两个上三角阵的乘积仍是上三角阵。因此,上述等将是一个单位下三角阵与一个上三角阵相等,故此,它们都必是单位矩阵。即,从而即A的LU分解是唯一的。17.证明定理1·3·1中的下三角阵L是唯一的。[证明]因A是正定对称矩阵,故其各阶主子式均非零,因此A非奇异。为证明L的唯一性,不妨设有和使那么注意到:和是下三角阵,和为上三角阵,故它们的逆矩阵也分别是下三角阵和上三角阵。因此,只能是对角阵,即从而于是得知19.若是A的Cholesky分解,试证L的i阶顺序主子阵正好是A的i阶顺序主子阵的Cholesky因子。[证明]将A和L作如下分块其中:为矩阵A和L的i阶顺序主子阵。。显然故有。即是的Colicky分解。23.设用平方根法证明A是正定的,并给出方程组的解。[解]由Colicky分解可得其中显然,L是非奇异矩阵。因此,对.于是所以是正定的。由方程组,解得,再由方程组,解得习题22.2证明:当且仅当和线性相关且时,才有.证明因为对任意的于是,当且仅当由等式(E2.1)可知,当且仅当,即,对任意的,此式成立不外乎二种情形:或;或;或.即和线性相关。2.3证明:如果是按列分块的,那么证明因为.2.4证明:证明记,那么,根据第3题的结果我们有根据Frobenius范数定义易知,对.于是2.5设是由定义的。证明是矩阵范数,并且举例说明不满足矩阵范数的相容性。证明(1)证明是矩阵范数。因为显然满足矩阵范数定义中的前三条:正定性、齐次性、三角不等式。下面我们证明还满足“相容性”。对任意,记,,且则,,且(2)一个不满足矩阵范数的相容性的例子。取,,则。于是,,从而2.6证明:在上,当且仅当是正定矩阵时,函数是一个向量范数。证明由于A是正定矩阵,不妨设是A的特征值,是其对应的标准正交特征向量,即显然,是线性无关的。因此,=span{}.记,,那么,且对任意,总有使.命题的充分性是很显然的。因为是上的向量范数,则由其正定性可知A必为正定矩阵。现在我们来证明命题的必要性。即假设是正定矩阵,则函数满足向量范数定义的三条性质:正定性。由A的正定性,正定性显然成立。齐次性。对任意的,因为,故有.三角不等式。对于任意给定的,有,使应用习题2.1的结果,得即有2.7设是上的一个向量范数,并且设.证明:若,则是上的一个向量范数。证明当时,当且仅当是上的零向量。再由假设是上的一个向量范数,于是可证得满足:正定性。事实上,对任意,,而且当且仅当.齐次性。事实上,对所有的和有,因此.三角不等式。事实上,对所有的有,因此有2.8若且,证明.证明首先用反证法,证明的存在性。设奇异,则有非零解,且,于是,从而.这与假设矛盾。现在来证明命题中的不等式。注意到:,且故有即2.9设是由向量范数诱导出的矩阵范数。证明:若非奇异,则证明因为是向量范数诱导的矩阵范数,故=1,且对和,有于是对,有,且当时,有.(E2.2)现在只需证明:存在且,使即可。根据算子范数的定义,我们不妨假设,使.再取,显然,且(E2.3)综合(E2.2)和(E2.3)得2.12证明对任意的矩阵范数都有,并由此导出[证明]由定理2.1.6(1)可知,对任意矩阵范数都有,而,于是,从而.2.13若和都是非奇异的,证明.[证明]因为所以,根据矩阵范数的相容性可得.习题31.设用正则化方法求对应的LS问题的解.[解]由定理3.1.4可知,LS问题的解就是下列正则化方程组解:即解得:2.设求对应的LS问题的全部解.[解]由定理3.1.4可知,LS问题的解就是下列正则化方程组解:经初等行变换得其同解方程组从而即,其中3.设,求一个Householder变换和一个正数使得[解]由于2范数具有正交不变性,故.于是于是,令那么,可以验证满足该题的要求.4.确定和使得[解]由2范数具有正交不变性,故于是从而10.设且存在使得对每一个均极小化。证明:[解]由矩阵奇异值分解定理知,设的秩,则存在阶正交阵和阶正交阵,使其中:是的非零特征值全体。可以证明矩阵,且.事实上,由定理3.1.4可知,对任一是=min.的解。另外,于是我们有12.利用等于证明:如果,那么[证明]令泛函如果,那么对当且充分小时,,从而由连续性有,由的任意性,则必有,即习题41.设方程组的系数矩阵为证明:对来说,Jacobi迭代不收敛,而G-S迭代收敛;而对来说,Jacobi迭代收敛,而G-S迭代不收敛。[解]对于,则有从而,于是从而,,即有由定理4.2.1知,Jacobi迭代法不收敛;G-S迭代收敛。对于,,从而进而显然,故由定理4.2.1知,Jacobi迭代法收敛;G-S迭代不收敛。2.设满足,证明对任意的,迭代格式最多迭代次就可得方程组的精确解。[证明]由于,故的所有特征值均为零。于是存在正交矩阵及矩阵使,注意到于是:另一方面,记:从而,,即.3.考虑线性代数方程组这里(1)为何值时,是正定的?(2)为何值时,Jacobi迭代收敛?(3)为何值时,G-S迭代收敛?[解](1)对称矩阵正定的充分必要条件是其特征值均为正数。而的特征多项式为于是的特征值为:欲使它们均大于零,则(2)由于Jacobi迭代矩阵为的特征多项式为其特征值为:,于是谱半径.由定理4.2.1可知,Jacobi迭代收敛当且仅当.从而当时,Jacobi迭代收敛。(3)由于G-S迭代矩阵为其特征多项式为特征值为:从而故由定理4.2.1可知,当时,G-S迭代收敛。注意:(2)和(3)中的可以是复数。5.若是严格对角占优的或不可约对角占优的,则G-S迭代法收敛。[证明]若是严格对角占优的或不可约对角占优的,则必有,因此非奇异。现在来证明:G-S迭代矩阵的谱半径小于1。假设,则由的假设知,也是严格对角占优或不可约对角占优的,因此,而由于这说明迭代矩阵不存在模大于等于1的特征值。因此,从而G-S迭代收敛。8.若存在对称正定阵P,使为对称正定阵,试证迭代法收敛。[证明]设是的任一特征值,是关于的特征向量,于是因都是正定阵,故,即.由的任意性得知,故迭代法收敛。9.对Jacobi方法引进迭代参数,即或者称为Jacobi松驰法(简称JOR方法).证明:当的Jacobi方法收敛时,JOR方法对收敛.[证明]对于,,则Jacobi迭代矩阵和JOR迭代矩阵分别是由于Jacobi迭代收敛当且仅当,即B的任一特征值.现设是Jacobi迭代矩阵的一个特征值,非零向量是其对应的特征向量,则有即有进而即若是Jacobi迭代矩阵的一个特征值,则便是的一个特征值.当取定:,并假定,注意到即的所有特征值模小于1,从而,即JOR迭代收敛.10.证明:若是具有正对角元的实对称矩阵,则JOR方法收敛的充分必要条件是及均为正定对称矩阵.[证明]由于的对角元都是正数,故的对角元为正数,故显然,矩阵与相似,两者有相同的特征值。同时,它与A有着相同的实对称性。因此,两个矩阵的特征值都是实数。必要性。设JOR迭代收敛,即.那么,矩阵的特征值在区间内,于是得出的特征值位于区间内,这就是说是正定的,而它与具有相同的正定性,因此也是正定的.另外,实对称矩阵的特征值完全由的特征值所生成,所以的特征值将全部位于区间内,因此是正定的。注意到因此矩阵也是正定的。充分性。一方面,因为所以与一样是正定矩阵。即的特征值均大于0.即的特征值均小于1.另一方面,由于正定,而且所以,矩阵是正定的,即特征值全部为正数,即的特征值均大于-1.结合两方面的结果,得知:,即JOR迭代收敛.11.证明:若系数矩阵是严格对角占优的或不可约对角占优的,且松驰因子,则SOR收敛。[证明]若矩阵是严格对角占优的或不可约对角占优的,则必有,因此D非奇异。现假定某个复数,则矩阵也是严格对角占优的或不可约对角占优的。不妨假设,且,于是就有从而因此得到于是由的严格对角占优或不可约严格对角占优可知也是严格对角占优或不可约对角占优的。因此,是非奇异的。而因此,不是SOR迭代矩阵的特征值。由的任意可知,的特征值都将满足,于是,从而SOR迭代收敛。习题51.证明等式(5.1.4).[证明]考虑在方程组的解向量处的Taylor展式,则有,注意到:,于是上式可写为.3.试证明当最速下降法在有限步求得极小值时,最后一步迭代的下降方向必是的一个特征向量.[证明]假定在步迭代后,得到了精确解,即,从而有,记:,整理可得,即是说是A的一个特征值,是其对应的特征向量.5.设对称正定的,是互相共轭正交的,即.证明是线性无关的.[证明]若有一组数满足则对一切一定有注意到,由此得出:即所有的=0.因此,是线性无关的.习题65.设.求的特征值的条件数.[解]显然都是单特征值.对于来说,显然是关于的一个模1特征向量.同时,容易求得是关于的满足的左特征向量,故由特征值条件数的定义得知对于来说,解方程得到关于的特征向量当时,.再由方程可解得关于的左特征向量,令,则得出从而由特征值条件数的定义知.7.分别应用幂法于矩阵,并考察所得序列的特性.[解]我们不妨设.对于矩阵即初始向量:,迭代如下:;;一般地,,.显然.对于矩阵取初始向量:,则迭代得到;;由此我们可以看出,迭代数列:,和向量序列:均不收敛.但它们都各对应地存在两个收敛子列.即当脚标为奇数时,;当脚标为偶数时,14.应用基本的QR迭代于矩阵,并考察所得的矩阵序列的特点,并判断该矩阵序列是否收敛?[解]用Givens正交变换实现QR迭代:第1步:,第2步:,.由上面的两步迭代,即已说明对该矩阵进行QR迭代,其矩阵序列由两个矩阵构成其奇数项和偶数项,因此该矩阵序列不收敛.习题7