武汉大学龚龑《高光谱遥感》1第2节高光谱特征提取《高光谱遥感》第四章高光谱数据处理武汉大学龚龑《高光谱遥感》2一、高光谱特征提取概念二、基于可分性准则的特征提取原理三、高光谱特征提取主要方法四、高光谱特征提取新方法及实例第四章第2节高光谱特征提取武汉大学龚龑《高光谱遥感》3特征提取包括的内容非常广泛,既可以指影像空间维,也可以指光谱维特征提取。本节所讲的特征提取是指光谱维特征提取。一、高光谱特征提取概念1.1高光谱特征提取基本定义武汉大学龚龑《高光谱遥感》4特征提取是指对原始的光谱空间特征进行重新组合和优化,提取出最适合当前应用需求的新特征。•高光谱特征提取的要点:1.维数降低2.特征性能更优良3.不能完全取代原始原始高光谱数据一、高光谱特征提取概念1.1高光谱特征提取基本定义武汉大学龚龑《高光谱遥感》5•概念上的区别特征提取特征选择原始特征空间的重组运算原始特征空间的子集挑选1.2特征提取与特征选择区别一、高光谱特征提取概念武汉大学龚龑《高光谱遥感》6特征提取特征选择1.2特征提取与特征选择区别一、高光谱特征提取概念武汉大学龚龑《高光谱遥感》7•技术特点的区别特征提取特征选择特征是未知的特征是已知的运算规则搜索策略映射方式未知波段选择特征提取过程的实质是对特征映射方式的寻求1.2特征提取与特征选择区别一、高光谱特征提取概念武汉大学龚龑《高光谱遥感》8一、高光谱特征提取概念二、基于可分性准则的特征提取原理三、高光谱特征提取主要方法四、高光谱特征提取新方法及实例第四章第2节高光谱特征提取武汉大学龚龑《高光谱遥感》9基本思想:以类别可分性作为特征提取的准则,要求提取的新特征所构成的特征空间具备最佳的类别区分能力。特征映射方式可分性准则指导可分性准则在高光谱数据降维中有哪两方面作用?二、基于可分性准则的特征提取原理2.1基于可分性准则的特征提取基本思想有样本支持武汉大学龚龑《高光谱遥感》10二、基于可分性准则的特征提取原理2.2选择类别可分性准则可分性准则:从高维数据中获取一组用来分类的特征,需要一个定量的标准来衡量特征对分类的有效性。可分性准则的主要类型:•基于几何距离的可分性准则•基于概率密度的可分性准则武汉大学龚龑《高光谱遥感》11常见准则:11234Tr[]Tr[]Tr[]wBBwBwwBTwwJSSSJSSJSSSSJSS11Tr[]wBJSS二、基于可分性准则的特征提取原理2.2选择类别可分性准则武汉大学龚龑《高光谱遥感》12T11nmnmyAxmn降维后的特征原始光谱特征映射矩阵11Tr[]ywybmYJSSY希望在维的空间里,类别可分性最好即,准则函数在空间达到最大类内散布矩阵类间散布矩阵二、基于可分性准则的特征提取原理2.3定义特征映射形式武汉大学龚龑《高光谱遥感》13根据协方差传播律,Y空间里的协方差矩阵Cy与X空间里的协方差矩阵Cx有如下关系:TyxCACA可推导,Y空间里的散布矩阵与X空间里的散布矩阵有如下关系:TTywxwybxbSASASASA二、基于可分性准则的特征提取原理2.4求解映射矩阵武汉大学龚龑《高光谱遥感》14因此,变换后的Y空间里的可分性准则函数:11T1TTr[]Tr[()()]ywybxwxbJSSASAASA=二、基于可分性准则的特征提取原理2.4求解映射矩阵TTywxwybxbSASASASA武汉大学龚龑《高光谱遥感》15T1T1Tr[()()]xwxbJASAASA分析下式:原始高维空间空间中的散布矩阵利用样本求得未知的映射矩阵二、基于可分性准则的特征提取原理2.4求解映射矩阵如何使J1取得最大值?武汉大学龚龑《高光谱遥感》16T1T1Tr[()()]xwxbJASAASAJ1是以矩阵A为变量的函数,欲使J1最大,可将上式求一阶导数并令其为零:1111220xwywybywxbywJSASSSSASA二、基于可分性准则的特征提取原理2.4求解映射矩阵武汉大学龚龑《高光谱遥感》1711()()xwxbywybSSAASS整理得到:TybywzBySS根据矩阵运算知识,可利用线型变换将实对称阵和分别对角化:TTybywBSBBSBIBmm是一个的非奇异方阵二、基于可分性准则的特征提取原理2.4求解映射矩阵1111220xwywybywxbywJSASSSSASA武汉大学龚龑《高光谱遥感》18TybTywBSBBSBI分析公式:1111()()TybTywSBBSBIB代入1()()xwxbSSABAB二、基于可分性准则的特征提取原理2.4求解映射矩阵11()()xwxbywybSSAASS11()()xwxbSSAABB武汉大学龚龑《高光谱遥感》191()()xwxbSSABAB对于矩阵AB中的每一列,有:1(),1,2,...,xwxbiiiSSin1,iixwxbSS上式说明是矩阵的特征值和特征向量二、基于可分性准则的特征提取原理2.4求解映射矩阵12(,...)in因此,按照大小顺序排列,可得到武汉大学龚龑《高光谱遥感》20111111Tr[]Tr[()]Tr[()]......Tr[]TTzwzbywybTTywybywybSSBSBBSBBSBBSBSS考察准则函数J1在空间Z和Y中的关系:T()TzByABx目的是求变换矩阵A,却求出了矩阵=AB接下来怎么办?从Y到Z的映射不改变准则函数J1的值有兴趣的同学请自己证明二、基于可分性准则的特征提取原理2.4求解映射矩阵1()()xwxbSSABAB武汉大学龚龑《高光谱遥感》21121B(,,...,)nJ因为线性变换矩阵不改变准则函数的值,所以,可令降维映射矩阵为使得可分性准则函数取得最大值11Tr[]ywybJSS此时,1()()xwxbSSABAB二、基于可分性准则的特征提取原理2.4求解映射矩阵111111Tr[()]Tr[()]Tr[]TTxwxbTTxwxbywybSSSSSS1Tr[]mii武汉大学龚龑《高光谱遥感》22(一)思路:1.确定降维变换的数学映射表达Y=AX;2.选定可分性准则函数(J1,J2,J3,J4等);3.利用准则函数对A的一阶导数等于零建立方程;4.立足于方程,寻求A的解或等效解。二、基于可分性准则的特征提取原理2.4可分性准则进行特征提取要点小结设计新型特征提取方法的思路武汉大学龚龑《高光谱遥感》23(二)实施步骤:1.选择样本;2.计算原始光谱空间的类内、类间散布矩阵;4.利用特征向量构建降维变换矩阵。3.求解的特征值和特征向量;1xwxbSS2.4可分性准则进行特征提取要点小结二、基于可分性准则的特征提取原理使用已有特征提取方法的步骤武汉大学龚龑《高光谱遥感》24一、高光谱特征提取概念二、基于可分性准则的特征提取原理三、高光谱特征提取主要方法四、高光谱特征提取新方法及实例第四章第2节高光谱特征提取武汉大学龚龑《高光谱遥感》25A.经典PCAB.最小噪声分离法C.噪声适应主成分法D.通用光谱模式分解三、高光谱特征提取主要方法(P69典型分析变换CA)武汉大学龚龑《高光谱遥感》263.1经典PCA(二)实施步骤:1.计算协方差矩阵的特征值和特征向量;2.按特征值大小顺序排列特征向量,构成变换矩阵。(一)基本思想:1.使变换后各成分按照按照方差从大到小排序2.各成分之间尽可能不包含相同信息三、高光谱特征提取主要方法武汉大学龚龑《高光谱遥感》273.1经典PCA(三)从可分性准则降维的角度理解三、高光谱特征提取主要方法常见准则:11234Tr[]Tr[]Tr[]wBBwBwwBTwwJSSSJSSJSSSSJSSPCA方法所依据的可分性准则是什么?5=TwBJSSS降维后的样本总体方差最大协方差矩阵的极值分析武汉大学龚龑《高光谱遥感》28三、高光谱特征提取主要方法3.2最小噪声分离法(minimumnoisefraction,MNF)Green(1988)发展了主成分分析方法,采用最小噪声分离变换使变换后各成分按照信噪比而不是按照方差从大到小排序。武汉大学龚龑《高光谱遥感》29三、高光谱特征提取主要方法3.2最小噪声分离法,,iiiiiiizsnsnz高光谱图像中第个波段图像构成的向量由理想状况下的无噪声信号向量和噪声向量组成和不相关可表示为:iiizsn1L,Li表示波段武汉大学龚龑《高光谱遥感》30MNF基本流程:对图像进行低通滤波12T(,,...,)LuuuUY=UZ令特征提取可表示为1u,iiNZ计算的特征值和相应特征向量并排序12(,,...)LZZzzz求出的协方差矩阵12(,,...)LnNnnn求出的协方差矩阵分离出噪声图像n三、高光谱特征提取主要方法3.2最小噪声分离法可分性准则是什么?武汉大学龚龑《高光谱遥感》31(noise-adjustedprincipalcomponents,NAPC)噪声适应主成分法的基本思想与最小噪声分离法类似,考虑到噪声在各个波段分布的不均匀,NAPC方法在进行主成分变换之前,先将各个波段的噪声白化。三、高光谱特征提取主要方法3.3噪声适应主成分法武汉大学龚龑《高光谱遥感》32iiizsn1L,Li表示波段1212(,,...)(,,...)LLZnZzzzNnnn为的协方差矩阵为的协方差矩阵噪声信号NNNNNTT-1-1FFF=,FF=,I矩阵为的白化矩阵,即是由特征值构成的对角阵首先,针对噪声求出白化矩阵三、高光谱特征提取主要方法3.3噪声适应主成分法武汉大学龚龑《高光谱遥感》33WNT=FF然后,利用噪声的白化矩阵调整观测数据HFG最后,对调整后的观测数据进行主成分变换,设变换矩阵为G,则总的变换矩阵为三、高光谱特征提取主要方法3.3噪声适应主成分法武汉大学龚龑《高光谱遥感》343.4基于通用光谱模式分解算法通用光谱模式分解算法(UniversalPatternDecompositionMethod,UPDM)将原始高维空间特征转化为UPDM系数表示的UPDM空间向量值。要点:•针对某几类特定地物目标,如水体、植被、土壤等•需要进行地面光谱的实地测量三、高光谱特征提取主要方法武汉大学龚龑《高光谱遥感》35针对三类3.4基于通用光谱模式分解算法三、高光谱特征提取主要方法武汉大学龚龑《高光谱遥感》36矩阵P受两方面因素影响:•所考察的基本地物类型数目由矩阵P的列体现。•相应影像波段的波长区间对地面实测光谱进行归一化处理,由矩阵P的行体现,与传感器无关。3.4基于通用光谱模式分解算法三、高光谱特征提取主要方法武汉大学龚龑《高光谱遥感》37使用时根据传感器对应波长截取相应的UPDM参数,构成P矩阵:代入方程,即可求得变换后的特征C3.4基于通用光谱模式分解算法三、高光谱特征提取主要方法武汉大学龚龑《高光谱遥感》38一、高光谱特征提取概念二、基于可分性准则的特征提取原理三、高光谱特征提取主要方法四、高光谱特征提取新方法及实例第四章第2节高光谱特征提取武汉大学龚龑《高光谱遥感》394.1分段PCA方法基于分段PCA方法的波段选择体现了特征选择和特征提取的综合利用。主要思想是将原始的高光谱数据分成若干组,然后对每一组进行PCA变换,再根据变换后的主成分进行波段选择。对高光谱数据直接利用PCA方法进行特征提取从效率和物理意义上往往不能满足需求。四、高光谱特征提取新方法及实例武汉大学龚龑《高光谱遥感》40基于分段PCA方法的波段选择的两步走方案:针对每段进行波段选择4.1分段PCA方法四、高光谱特征提取新方法及实例武汉大学龚龑《高光谱遥感》41基于分段PCA方法的波段选择的具体步骤:(1).计算波段间的相关系数(2).根据相关系数划分波段小组4.1分段PCA方法四、高光谱特征提取新