偏最小二乘法matlab编程

一、起源与发展偏最小二乘法（partialleastsquaresmethod，PLS）是一种新型的多元统计数据分析方法，它于1983年由伍德(S.Wold)和阿巴诺(C.Albano)等人首次提出。其实在早在70年代伍德(S.Wold)的父亲HWold便在经济学研究中引入了偏最小二乘法进行路径分析，创建了非线性迭代偏最小二乘算法(NonlinearIterativePartialLeastSquaresalgorithm，NIPALS)，至今仍然是PLS中最常用和核心的算法。PLS在20世纪90年代引入中国，在经济学、机械控制技术、药物设计及计量化学等方面有所应用，但是在生物医学上偏最小二乘法涉及相对较少。对该方法的各种算法和在实际应用中的介绍也不系统，国内已有学者在这方面做了一些努力，但作为一种新兴的多元统计方法，还不为人所熟知。PLS是一种数学优化技术，它通过最小化误差的平方和找到一组数据的最佳函数匹配。用最简的方法求得一些绝对不可知的真值，而令误差平方之和为最小。通常用于曲线拟合。有人用下式来形容PLS：偏最小二乘回归≈多元线性回归分析＋典型相关分析＋主成分分析二、特点：与传统多元线性回归模型相比，偏最小二乘回归的特点是：(1)能够在自变量存在严重多重相关性的条件下进行回归建模；(2)允许在样本点个数少于变量个数的条件下进行回归建模；(3)偏最小二乘回归在最终模型中将包含原有的所有自变量；(4)偏最小二乘回归模型更易于辨识系统信息与噪声（甚至一些非随机性的噪声）；(5)在偏最小二乘回归模型中，每一个自变量的回归系数将更容易解释。偏最小二乘法的Matlab源码(2008-09-2109:31:21)所谓偏最小二乘法，就是指在做基于最小二乘法的线性回归分析之前，对数据集进行主成分分析降维，下面的源码是没有删减的）。function[y5,e1,e2]=PLS(X,Y,x,y,p,q)%%偏最小二乘回归的通用程序%注释以“基于近红外光谱分析的汽油组分建模”为例，但本程序的适用范围绝不仅限于此%%输入参数列表%X校正集光谱矩阵，n×k的矩阵，n个样本，k个波长%Y校正集浓度矩阵，n×m的矩阵，n个样本，m个组分%x验证集光谱矩阵%y验证集浓度矩阵%pX的主成分的个数，最佳取值需由其它方法确定%qY的主成分的个数，最佳取值需由其它方法确定%%输出参数列表%y5x对应的预测值（y为真实值）%e1预测绝对误差，定义为e1=y5-y%e2预测相对误差，定义为e2=|(y5-y)/y|%%第一步：对X,x,Y,y进行归一化处理[n,k]=size(X);m=size(Y,2);Xx=[X;x];Yy=[Y;y];xmin=zeros(1,k);xmax=zeros(1,k);forj=1:kxmin(j)=min(Xx(:,j));xmax(j)=max(Xx(:,j));Xx(:,j)=(Xx(:,j)-xmin(j))/(xmax(j)-xmin(j));endymin=zeros(1,m);ymax=zeros(1,m);forj=1:mymin(j)=min(Yy(:,j));ymax(j)=max(Yy(:,j));Yy(:,j)=(Yy(:,j)-ymin(j))/(ymax(j)-ymin(j));endX1=Xx(1:n,:);x1=Xx((n+1):end,:);Y1=Yy(1:n,:);y1=Yy((n+1):end,:);%%第二步：分别提取X1和Y1的p和q个主成分，并将X1,x1,Y1,y1映射到主成分空间[CX,SX,LX]=princomp(X1);[CY,SY,LY]=princomp(Y1);CX=CX(:,1:p);CY=CY(:,1:q);X2=X1*CX;Y2=Y1*CY;x2=x1*CX;y2=y1*CY;%%第三步：对X2和Y2进行线性回归B=regress(Y2,X2,0.05);%第三个输入参数是显著水平，可以调整%%第四步：将x2带入模型得到预测值y3y3=x2*B;%%第五步：将y3进行“反主成分变换”得到y4y4=y3*pinv(CY);%%第六步：将y4反归一化得到y5forj=1:my5(:,j)=(ymax(j)-ymin(j))*y4(:,j)+ymin(j);end%%第七步：计算误差e1=y5-y;e2=abs((y5-y)./y);function[MD,ERROR,PRESS,SECV,SEC]=ExtraSim1(X,Y)%%基于PLS方法的进一步仿真分析%%功能一：计算MD值，以便于发现奇异样本%%功能二：计算各种p取值情况下的ERROR,PRESS,SECV,SEC值，以确定最佳输入变量个数[n,k]=size(X);m=size(Y,2);pmax=n-1;q=m;ERROR=zeros(1,pmax);PRESS=zeros(1,pmax);SECV=zeros(1,pmax);SEC=zeros(1,pmax);XX=X;YY=Y;N=size(XX,1);forp=1:pmaxdisp(p);Err1=zeros(1,N);%绝对误差Err2=zeros(1,N);%相对误差fori=1:Ndisp(i);ifi==1x=XX(1,:);y=YY(1,:);X=XX(2:N,:);Y=YY(2:N,:);elseifi==Nx=XX(N,:);y=YY(N,:);X=XX(1:(N-1),:);Y=YY(1:(N-1),:);elsex=XX(i,:);y=YY(i,:);X=[XX(1:(i-1),:);XX((i+1):N,:)];Y=[YY(1:(i-1),:);YY((i+1):N,:)];end[y5,e1,e2]=PLS(X,Y,x,y,p,q);Err1(i)=e1;Err2(i)=e2;endERROR(p)=sum(Err2)/N;PRESS(p)=sum(Err1.^2);SECV(p)=sqrt(PRESS(p)/n);SEC(p)=sqrt(PRESS(p)/(n-p));end%%[CX,SX,LX]=princomp(X);S=SX(:,1:p);MD=zeros(1,n);forj=1:ns=S(j,:);MD(j)=(s')*(inv(S'*S))*(s);end