矩阵论线性空间定义:本质是个集合,满足一定条件下的集合。首先定义了加法运算(满足加法的交换结合律),在这个集合中能找到零元素,与负元素;然后定义数乘运算(数域上的元素与集合当中的元素相乘),并且满足数乘的分配,结合律(集合中的元素能否进行乘法运算并没有定义)。最后指出,这些运算都是封闭的,运算的结果与集合中的元素唯一对应。称这样的一个集合为线性空间。注意:运算结果与集合中的元素对应。例如0*a=0(此零非彼零,不是数域里的零,而是线性空间当中的零,即集合当中的零元素很可能不是零)核空间:矩阵A对应于齐次线性方程组Ax=0的解空间。子空间:线性空间对应集合的一个子集,并且也满足线性空间的定义的一个子集。其中,零空间,与线性空间本身构成平凡子空间,还存在的其他子空间构成非平凡子空间。矩阵A的核空间就是他的一个子空间,相当于对矩阵A构成的空间中的元素进行了限定。矩阵A的列向量的线性组合构成了矩阵A的值域空间(其中的基为最大无关组的个数)。注意:子空间交,与子空间的和任然为子空间,但子空间的并集不一定再是子空间。属于两个子空间的线性无关的两个基的并基构成新的元素,但是这个元素不在属于原来的两个子空间的任意一个。子空间中的几个等价定义:(1)直和定义为V1与V2的交空间只包含零元素(不一定是数字零),构成零子空间(2)直和空间中的元素表达式唯一。(3)V1的基于V2的基直接构成直和空间的基。(4)和空间的维度等于V1与V2维度的和。线性映射性质:(1)V1的零元素经过线性映射变为V2的零元素(2)线性相关组经过线性映射之后任然为线性相关(3)线性无关组经过单射线性映射后任然为线性无关同构:两个线性空间之间存在一个一一对应的线性变换,则称这两个矩阵是同构的。相应的线性变换称为同构映射。任一线性空间都能够找到一个数域向量与其同构,这个向量就是坐标。线性变换T的秩,线性映射的坐标表示:T表示线性空间到线性空间的映射,在具体的基底下(两个线性空间基都确定的情况),可以由一个矩阵A表示T,为V到V‘的线性映射。(区别去前面提到的过渡矩阵,过渡矩阵指的在同一个线性空间中,两组不同基底之间的过渡,过渡矩阵可以看做线性映射的特例,在V与V’是同一个线性空间的情况下,过渡矩阵跟线性变换相同)。在空间V中的任一向量a在V的基底下的坐标为x,则对应像T(a)在V‘基底下的坐标y=Ax.线性空间之间的线性映射与在某一组特定基下的表示矩阵一一对应。线性映射的全体与数组矩阵一一对应。线性映射跟线性变换的区别:映射是两个线性空间之间的,变换是一个线性空间中的。(有时候不加区别)同一线性变换在不同基底下的表示:T是V空间的一个线性变换,在基底a下的表示矩阵为A,在基底b下的表示矩阵为B,由基a到基b的过渡矩阵为P则:B=P-1AP。注意:基底a到基底b的过渡矩阵可以看做是一个线性变换的矩阵表示(同一空间不同基底,区别于同一空间相同基底),这个表示矩阵的基底是a,b。这里的T是一个线性变换,A,B是他在基底a,b下的表示矩阵(同一空间,相同基底)。线性映射也是一个线性空间:在定义了线性映射的加法与数乘运算后,V到V‘线性映射的全体构成了线性空间。称在两个不同线性空间之间的线性映射为线性映射空间,在同一个线性空间中的线性映射为线性变换空间。注意:线性映射跟矩阵一一对应,矩阵的逆就是线性变换的逆变换。内积空间:定义了内积的实线性空间称为欧式空间,定义了内积的复线性空间称为酉空间。内积:(a,b)与一个实数相对应。且满足:交换律,数乘结合律,分配率,(a,a)=0,且(a,a)=0等价于a=零元素。只有欧式空间(酉空间),定义了内积运算,才可以用内积运算求坐标(这是基底必须是标准正交基),才能用坐标相乘相加求内积。正交矩阵与酉矩阵:若AHA=I,A为酉矩阵,若ATA=I,A为正交矩阵。A的列向量组是标准正交向量组,A的行向量组是标准正交向量组。正交矩阵行列式的值为1.(列向量组单位化的正交向量组)正定矩阵:对任一向量x,如果xTAx0,则A为正定矩阵。正规矩阵:AHA=AAH,则A是个正规矩阵。例如:实对称矩阵,实反对称矩阵,正交矩阵,酉矩阵,hermit矩阵(AH=A)反hermit矩阵都是正规矩阵。正交变换:对酉空间中的变换T,如果(T(a),T(b))=(a,b),则T称为正交变换。酉(正交)变换是保持内积不变的变换;正交变换保持向量的长度不变;正交变换将标准正交基变为标准正交基;正交变换在任一标准正交基下的表示矩阵式正交矩阵。正交投影:W的一组标准正交基构成的矩阵M,a在W上的正交投影aw=M(MHM)-1MHa.定义在自然基下的标准正交投影变换对应的矩阵称为标准正交投影矩阵。Pw=M(MHM)-1MH,(MHM)-1MHa为aw在M基上的坐标特征值,特征向量,特征方程等某一特征值的代数重数等于他特征多项式中特征值的重根重数,几何重复数等于特征子空间的维数,相当于某一特定特征值对应特征方程(齐次方程)的基础解系个数。相似变换:P-1AP=B,则A与B相似,P称为相似变换矩阵,若A相似于一个对角阵则称A为可相似对角化的,也称为是单纯矩阵。相似矩阵秩相等;幂矩阵相似;矩阵多项式相似;迹相等;行列式相等;特征值相同。注意:利用矩阵对角化可以将一个状态方程(微分方程),解耦(化解后的方程组中的每个方程都是独立的)。酉相似对角化:任一方阵都与上三角矩阵酉相似;即存在酉矩阵将一个方阵对角化为一个上三角矩阵。但是酉相似于一个对角阵的充要条件是A是正规矩阵。Hermite矩阵的一些等价命题(1)A是正定矩阵;A的n个特征值全是正数;存在可逆Q,使得A=QHQ;A的各阶顺序主子式全大于0.(2)A是半正定矩阵;A的n个特征值全是非负实数;A的各阶顺序主子式全都大于等于0.相似等价:两个矩阵相似等价于:两个矩阵的特征矩阵相似;可以经过初等变换相互转换。行列式因子:多项式矩阵所有K阶子式的最大公因式如果不为0(首1多项式),则称这个最大公因式为K阶行列式因子,记为Dk()。λI—A的行列式因子称为A的行列式因子。有一阶行列式因子,二阶行列式因子…….高阶的可以被低阶的整除。矩阵A的法式定义为:A的特征矩阵多项式矩阵。diag(d1(λ),d2(λ)……)dn(λ)=Dn(λ)/Dn-1(λ)不变因子:dn(λ)称为不变因子,初等因子:将次数大于0的不变因子在复数域内分解为互不相同的一次因式方幂乘积,每个方幂因式称为初等因子。求一个矩阵的相似的jordan标准型,先求行列式因子,再求不变因子,再求出初等因子,再利用初等因子的根,及其重数写出jordan标准型。()注意:要判断不同初等因子根代数重数是否等于其几何重数。矩阵的最小多项式:一个多项式P(X),将矩A阵带入,使得P(A)=0的多项式称为A的化零多项式。其中次数最小的一个多项式称为最小多项式。A的特征多项式是他的一个化零多项式。矩阵A的最小多项式为A的第N个不变因子。由A的所有互不相同的特征值构成的(A-A1)因式的乘积,次数为特征值对应JORDAN的最高阶数。最小多项式性质:(1)唯一,(2)相似矩阵最小多项式相同(3)最小多项式与特征多项式有相同的零点(4)准对角阵的最小多项式等于其诸对角块的最小多项式的最小公倍数。向量范数,矩阵范数:满足非负性,齐次性,三角不等式。向量1范数为向量坐标的绝对值和,2范数为模长,无穷范数为坐标绝对值中最大的。诱导矩阵范数:又叫矩阵的算子范数,任一向量范数,对于任意矩阵,有矩阵范数‖A‖=MAX‖AX‖,在‖X‖=1的情况下。矩阵1范数:相当于取矩阵的元素绝对值列和中最大的列和。(每一列中的元素去绝对值相加)矩阵2范数:又叫普范数,取AHA的最大特征值的开方矩阵无穷范数:行和范数。矩阵的F范数:取AHA的迹的开方,或者每个元素平方和在再取算术平方谱半径是矩阵范数的下界并且是最大下界。条件数:定义:COND(A)=A的范数×A逆的范数,如果COND(A)很大,则(A+DELTAA)-1就很大,也就是求逆将A矩阵的误差放大了(在运算中)。特征值估计:特征值的平方和小于等于矩阵中每个元素的平方和,即F范数的平方。A为方阵,B=1/2(A+AH),C=1/2(A-AH),则A的任一特征值满足|特征值|小于等于‖A‖M无穷范数,|特征值的实部|小于等于|‖B‖M无穷范数,|特征值的虚部|小于等于‖C‖的M无穷范数。(代表任意向量诱导得到的矩阵的无穷范数)盖尔圆:矩阵对角线为圆心,该行元素绝对值之和(除对角线元素)为半径。矩阵级数:类似数量级数,就是一系列矩阵,收敛的判定依据矩阵的谱半径,谱半径小于1收敛,大于1发散。一类特殊矩阵级数,前N项和每项前面的系数为1,称为neumann级数,前N项和收敛于(I-A)-1矩阵函数:矩阵函数其实完全是类比定义,在矩阵的谱半径小于数量级数的收敛半径条件下直接移植。求矩阵函数值:(1)jordan标准型法:将A=PJP-1,f(A)=Pf(J)P-1,其中f(J),由前面的矩阵函数定义求得,经过处理得到公式:…………….(2)多项式法:求出A的最小多项式(或者化零多项式),设一个多项式最高次数不超过A的最小多项式次数(超过部分为0),利用待定系数法(将特征值带入多项式,带入要求的源函数,各阶倒数相等),求得所设多项式的系数,将多项式中的变量用A替换,即可。(3)(2)给出了另外一种矩阵函数的定义,可以要求矩阵级数不用收敛。用有限次多项式定义矩阵函数,函数矩阵:矩阵的元素是函数,区别于矩阵函数,矩阵式函数的变量。函数矩阵可导,可微的对象其实就是矩阵元素中的函数,没啥高级的。求导,求积分,同样也是对矩阵元素分别求导,求积分。矩阵函数在求解微分方程方面的应用:比起前面的jordan化,可以直接对矩阵函数进行积分微分运算。矩阵正交分解:将A(m×n矩阵)分解为QR,其中Q为m×n阶具有单位正交列的矩阵(QTQ=I),R为n阶上三角矩阵。A可以被正交分解的条件是A具有n线性无关的列向量组(列满秩)方法:(1)正交化法:去A的n个线性无关列向量组(基a),将其单位正交化(基e),然后找到e到a的过度矩阵B(a由e表示出),则Q=E,R=B(2)Householder变换法方便计算机实现可以用来求解最小二乘解,求方程组:Rx=QTb.满秩分解(不唯一):将矩阵A(m×n)分解为一个列满秩矩阵F(m×r)和行满秩G(r×n).方法:利用行初等变换把A化为最简阶梯型H矩阵(某一行1所在列的其他元素为0),找到线性无关的列,对应到原矩阵A中,取原矩阵A中线性无关的列构成F,取H矩阵1所在的前几行构成G。满秩分解不唯一,但是有一个唯一的不变量:GH(GGH)-1(FHF)-1FH=A+(后面会定义)奇异值分解:若UHAV=B,其中U,V分别为m,n阶酉矩阵,A,B为m×n矩阵,则称A,B为酉等价,区别于酉相似对角化哦!称AHA的特征值的平方根为A的奇异值(A的特征值都大于0)A为秩为r的m×n阶矩阵,奇异值为(按有大到小排列)a1,a2,a3,0,0……..存在UV,使得A酉相似于一个𝐐𝟎𝟎𝟎,其中Q=diag(a1,a2,….a3),不等于0的奇异值如果A是复数域上的矩阵,则是酉相似,如果A是实数域上的,则是正交相似。方法:求出特征值,求出奇异值,求出特征向量,单位化。V即为特征向量组组成的矩阵,将V按列分两块V1占前r列(r为非零特征值个数),V2占n-r列,U1=AV1Q-1,构造一个U2,使得U为酉矩阵,(列向量组线性无关,单位化)。A的核空间由V的线性无关的向量组张成,A的值空间由U的线性无关的向量组张成。广义逆:方法:(1)利用满秩分解求:A有满秩分解BC,则A+=CH(CCH)-1(BHB)-1BH,如果A是行满秩,则A=ImA,前式简化为A+=AH(AAH)-1,如果A是列满秩,则A=AIn,A+=(AHA)-1AH(2)利用奇异值分解求:A+=VD+UH,其中D+,为由A的奇异值的倒数构成的与A具有相同行数,列数的矩阵,对角线上为奇异值,其他为