K-L--变换

K-L变换K-L变换的概念1K-L5.39K-LTxnTiiixCxxUyUxxuyx变换是众多正交变换的一种，这种正交变换对应的矩阵式由样本的协方差矩阵=所对应的特征向量所组成的矩阵，即我们称为的.称变换15K4-L.0riiixUyyuy为的展开.K-LK-.LK-Liiyoucuowu可以证明，在用方差作为衡量标准准则标准时，变换是压缩特征空间维数的最佳标准正交变换，即用变换压缩系数或丢掉一些较小的特征值后所造成的均方误差损失最小.从几何角度看变换是通过线性变换进行坐标轴旋转旋转变换即正交变换到主轴方向，如某些主轴长度相见图5.4对很小时较小时，还可以进一步压缩维数111112211211K-L1,,1,,,,.iiinnnnrrrnnxinyirnxyuxuxyuxuxyuxux用变换对较多的特征数据进行维数压缩，不是简单地从原来数据中删去一部分特征数据，而是进行线性变换，将其变成新的较少的、互不相关的特征数据，它们都是原来所有数据的线性组合，即5.41K-Liiinxxy因为一般来讲，原来的个特征数据都各自反映了被处理对象的某些特征，用简单的方法删去一些特征数据就不能全面刻画出被处理对象的特征，因此最终结果必将导致信息失真，而变换为一合理方法，它没有从原来数据中删去任何一个，新的每一个特征数据均包含了原来所有数据的特征，较合理地反映出原来对象的特征.5.2.2K-L变换的两个重要性质