矩阵代数基本知识

1附录I矩阵代数基本知识矩阵和行列式是研究多元统计分析的重要工具，这里针对本书的需要，对有关矩阵代数的基本知识作回顾性的介绍，其中有些内容是过去教学计划中没有涉及到的。一、向量矩阵的定义将np个实数111212122212,,,,,,,,,,,,ppnnnpaaaaaaaaa排成如下形式的矩形数表，记为A111212122212ppnnnpaaaaaaaaaA则称A为np阶矩阵，一般记为()ijnpaA，称ija为矩阵A的元素。当np时，称A为n阶方阵；若1p，A只有一列，称其为n维列向量，记为11211naaa若1n，A只有一行，称其为p维行向量，记为11121,,,paaa2当A为n阶方阵，称1122,,,nnaaa为A的对角线元素，其它元素称为非对角元素。若方阵A的非对角元素全为0，称A为对角阵，记为11221122(,,,)nnnnaadiagaaaaA进一步，若11221nnaaa，称A为n阶单位阵，记为nI或AI。如果将np阶矩阵A的行与列彼此交换，得到的新矩阵是pn的矩阵，记为112111222212nnppnpaaaaaaaaaA称其为矩阵A的转置矩阵。若A是方阵，且AA，则称A为对称阵；若方阵()ijnnAa，当对一切ij元素0ija，则称11212212nnnnaaaaaaA为下三角阵；若A为下三角阵，则称A为上三角阵。3二、矩阵的运算1．对()ijnpaA与()ijnpbB的和定义为：()ijijnpabAB2．若a为一常数，它与矩阵np阶矩阵A的积定义为：()ijnpaaaA3．若()ikpqaA，()kjqnbB，则A与B的积定义为：1()qikkjpnkabAB根据上述矩阵加法、数乘与乘的运算，容易验证下面运算规律：1．加法满足结合律和交换律()()ABCABCABBA2．乘法满足结合律()()aaAA，()()()aaaABABAB()()ABCABC3．乘法和加法满足分配律()aaaABAB，()aaAAA()ABCABAC，()ABCACBC4．对转置运算规律()ABAB，()()aaAA()ABBA，()AA另外，若()ijnnaA满足AAAAI，则称A为正交阵。4三、矩阵分块对于任意一个np阶矩阵A，可以用纵线和横线按某种需要将它们划分成若干块低阶的矩阵，也可以看作是以所分成的子块为元素的矩阵，称为分块矩阵，即：111212122212ppnnnpaaaaaaaaaA写成11122122AAAAA其中1111(ijnpaA)，1212(ijnpaA)，2121(ijnpaA)，2222(ijnpaA)，且12nnn，12ppp。分块矩阵也满足平常矩阵的加法、乘法等运算规律。不难证明：11122122AAAAA。四、方阵行列式的性质一个n阶方阵()ijnnaA中的元素组成的行列式，称为方阵A的行列式记为A或detA。它有以下我们熟知的性质：1．若A的某行（或列）为零，则0A；2．AA；3．将A的某行（或列）乘以数c所得的矩阵的行列式等于cA；4．若A是一个n阶方阵，c为一常数，则nccAA5．若A的两行（或列）相同，则0A；56．若将A的两行（两列）互换所得矩阵的行列式等于A；7．若将A的某一行（或列）乘上一个常数后加到另一行相应的元素上，所得的矩阵的行列式不变，仍等于A；8．若A和B均为n阶方阵，则ABAB；9．若A为上三角矩阵或下三角矩阵或对角矩阵，则1niiiaA10．0AA11．若A和B都是方阵，则ACA0AB0BCB12．若A和B分别是np和pn的矩阵，则npIABIBA五、逆矩阵设A为n阶方阵，若0A，则称A是非退化阵或称非奇异阵，若0A，则称A是退化阵或称奇异阵。若A是n阶非退化阵，则存在唯一的矩阵B，使得nABBAI，B称为A的逆矩阵，记为1BA。逆矩阵的基本性质如下：1．11AAAAI2．11()()AA3．若A和B均为n阶非退化阵，则111()ABBA4．设A为n阶非退化阵，b和a为n维列向量，则方程：6Aba的解为1bAa5．11AA6．若A是正交阵，则1AA7．若A是对角阵，1122(,,,)nndiagaaaA且0ija，1,,ip，则11111122(,,,)nndiagaaaA。8．若A和B非退化阵，则11111ACAACB0B0B11111A0A0CBBCAB9．设方阵A的行列式A分块为：11122122AAAAA若11A，22A是方阵且是非退化，则1111222111122211122221AAAAAAAAAAA六、矩阵的秩设A为np阶矩阵，若存在它的一个r阶子方阵的行列式不为零，而A的一切(1)r阶子方阵的行列式均为零，则称A的秩为r，记作()rkrA。它有如下基本性质：1．()0rkA，当且仅当A0；2．若A为np阶矩阵，则0()min(,)rknpA；73．()()rkrkAA；4．()min((),())rkrkrkABAB；5．()()()rkrkrkABAB；6．若A和C为非退化阵，则()()rkrkABCB。七、特征根和特征向量设A为p阶方阵，则方程0pAI是的p次多项式，由多项式理论知道必有p个根（可以有重根），记为1，2…，p，称为A的特征根或称特征值。若存在一个p维向量iu，使得()0ipiAIu，则称iu为对应于i的A的特征向量。特征根有如下性质：1．若A为实数阵，则A的特征根全为实数，故可按大小次序排列成12p，若ij，则相应的特征向量iu与ju必正交。2．A和A有相同的特征根。3．若A与B分别是pq与qp阶阵，则AB与BA有相同的非零特征根。实际上，因为pppqqqIAIAIAB00IBIBIpppqqqI0IAIABIBI0IBA所以ppqqIAB0IABI0IBAqppqIABIBA那么，两个关于的方程0pIAB和0qIBA有着完全相同的非零特征根（若有重根，则它们的重数也相同），从而AB和BA有相同的非零特征根。84．若A为三角阵（上三角或下三角），则A的特征根为其对角元素。5．若1，2…，p是A的特征根，A可逆，则1A的特征根为11，12，…，1p。6．若A为p阶的对称阵，则存在正交矩阵T及对角矩阵Λ1(,,)pdiag，使得ATΛT实际上，将上式两边右乘T，得ATTΛ将T按列向量分块，并记为12(,,,)pTuuu，于是有112120(,,,)(,,,)0pppAuuuuuu121122(,,,)(,,,)pppAuAuAuuuu那么iiiAuu，1,2,,ip这表明12,,p是A的p个特征根，而12,,,puuu为相应的特征向量。这样矩阵A可以作如下分解：111210(,,,)0ppppiiiiATATuuuuuuu称之为A的谱分解。八、矩阵的迹若A是p阶方阵，它的对角元素之和称为A的迹，记为1()piiitraA。方阵的迹具有下述基本性质：91．若A是p阶方阵，它的特征根为1，2…，p，则1()piitrA；2．()()trtrABBA；3．()()trtrAA4．()()()trtrtrABAB5．()()trtrAA九、二次型与正定阵称表达式11ppijijijQaxx为二次型，其中ijjiaa是实常数；1x，2x，…，px是p个实变量。若()ijppaA为对称阵，1(,,)pxxX，则11ppijijijQaxxXAX若方阵A对一切0X，都有0XAX，则称A与其相应的二次型是正定的，记为0A；若对一切0X，都有0XAX，则称A与二次型是非负定的，记为0A。记AB，表示0AB；记AB，表示0AB。正定阵和非负定阵有如下性质：1．一个对称阵是正（非负）定的当且仅当它的特征根为正（非负）；2．若0A，则10A；3．若0A，则0cA，其中c为正数；4．若0A，因它是对称阵，则必存在一个正交阵T，使12(,,,)pdiagTATΛ其中1，…，p为A的特征根，T的列向量为相应的特征向量，于是ΛTAT5．若0A（0），则存在120A（0），使得1122AAA。称12A10为A的平方根。实际上，因为A是对称阵，所以存在正交矩阵T和对角矩阵Λ12(,,)pdiag使得ATΛT。有0A（0）可知0i（0），1,,ip。令1212(,,,)pdiagΛ，1122ATΛT，则有111111222222ATΛΛTTΛTTΛTAA由于12A的特征根0i（0），1,,ip，所以12A（0）。十、矩阵的微商设1(,,)pxxx为实向量，()yfx为x的实函数。则()fx关于x的微商定义为：1()pfxffxxx若1111pnnpxxxxX则定义1111()pnnpffxxfffxxXX由上述定义不难推出以下公式：1．若1(,,)pxxx，1(,)paaA，则11()xAAx2．若1(,,)pxxx，则()2xxxx3．若1(,,)pxxx，()ijppbB对称阵，则()2xBxBxx4．若()ytrXAX，式中X为np阶阵，A为nn阶阵，则()()trXAXA+AXX若A为对称阵，则()2trXAXAXX