一元非线性回归分析

第八章方差分析与回归分析第1页2一元非线性回归例8.5.1炼钢厂出钢水时用的钢包，在使用过程中由于钢水及炉渣对耐火材料的浸蚀，其容积不断增大。现在钢包的容积用盛满钢水时的重量y(kg)表示，相应的试验次数用x表示。数据见表8.5.1，要找出y与x的定量关系表达式。第八章方差分析与回归分析第2页表8.5.1钢包的重量y与试验次数x数据序号xy序号xy12106.42811110.5923108.20914110.6034109.581015110.9045109.501116110.7657110.001218111.0068109.931319111.20710110.49下面我们分三步进行。第八章方差分析与回归分析第3页2468101214161820106107108109110111112散点图第八章方差分析与回归分析第4页8.5.1确定可能的函数形式为对数据进行分析，首先描出数据的散点图，判断两个变量之间可能的函数关系，图8.5.1是本例的散点图。观测这13个点构成的散点图，我们可以看到它们并不接近一条直线，用曲线拟合这些点应该是更恰当的，这里就涉及如何选择曲线函数形式的问题。第八章方差分析与回归分析第5页首先，如果可由专业知识确定回归函数形式，则应尽可能利用专业知识。当若不能有专业知识加以确定函数形式，则可将散点图与一些常见的函数关系的图形进行比较，选择几个可能的函数形式，然后使用统计方法在这些函数形式之间进行比较，最后确定合适的曲线回归方程。为此，必须了解常见的曲线函数的图形，见图8.5.2。第八章方差分析与回归分析第6页本例中，散点图呈现呈现一个明显的向上且上凸的趋势，可能选择的函数关系有很多，比如，参照图8.5.2，我们可以给出如下四个曲线函数：1)1/y=a+b/x2)y=a+blnx3)4)在初步选出可能的函数关系(即方程)后，我们必须解决两个问题：如何估计所选方程中的参数？如何评价所选不同方程的优劣？yabx/100(0)xbyaeb第八章方差分析与回归分析第7页8.5.2参数估计对上述非线性函数，参数估计最常用的方法是“线性化”方法。以1/y=a+b/x为例，为了能采用一元线性回归分析方法，我们作如下变换u=1/x,v=1/y则曲线函数就化为如下的直线v=bu这是理论回归函数。对数据而言，回归方程为vi=a+bui+i于是可用一元线性回归的方法估计出a,b。第八章方差分析与回归分析第8页表8.5.3参数估计计算表2.05088194iu13n0.11826672iv0.15776015u0.00909744v20.53721798iu0.01883495iiuv20.32354744nu0.01865778nuv0.21367054uul0.00017717uvlˆ/0.00082917uvuubllˆˆ0.00896663avub0.000829170.00896663xyx第八章方差分析与回归分析第9页formatlongx=[23457810111415161819];y=[106.42108.20109.58109.5110109.93110.49110.59110.60110.9110.76111111.20];plot(x,y,‘k+’);%数据的散点图第八章方差分析与回归分析第10页2468101214161820106107108109110111112散点图第八章方差分析与回归分析第11页x1=1./x;y1=1./y;plot(x1,y1,‘k+’);%变换后数据的散点图x2=[ones(13,1)x1'];[b,bint,rint,stats]=regress(y1',x2);z=b(1)+b(2)*x1;yc=1./z;plot(x1,y1,‘k+’,x1,z,‘r’)%变换后数据的散点图和回归直线图第八章方差分析与回归分析第12页变换后数据的散点图及回归直线图0.050.10.150.20.250.30.350.40.450.58.9599.059.19.159.29.259.39.359.49.45x10-3散点图回归函数第八章方差分析与回归分析第13页R2=1-sum((y-yc).^2)/lyy;%模型的拟合优度系数plot(x,y,‘k+’,x,yc,‘r’)%数据的散点图和回归曲线图legend('散点图','回归函数')第八章方差分析与回归分析第14页2468101214161820106107108109110111112散点图回归函数b=0.008966629680570.00082917436336R2=0.97292374957556第八章方差分析与回归分析第15页用类似的方法可以得出其它三个曲线回归方程，它们分别是：106.31473.9466lnyx106.30131.1947yx1.1256/10011.7506xye第八章方差分析与回归分析第16页三种方法的拟合效果比较：2468101214161820106107108109110111112散点图回归函数2468101214161820106107108109110111112散点图回归函数2468101214161820106107108109110111112散点图回归函数第八章方差分析与回归分析第17页8.5.3曲线回归方程的比较我们上面得到了四个曲线回归方程，通常可采用如下二个指标进行选择。（1）决定系数R2：类似于一元线性回归方程中相关系数，决定系数定义为：(8.5.5)R2越大，说明残差越小，回归曲线拟合越好，R2从总体上给出一个拟合好坏程度的度量。222()1()iiiyyRyy第八章方差分析与回归分析第18页（2）剩余标准差s：类似于一元线性回归中标准差的估计公式，此剩余标准差可用残差平方和来获得，即(8.5.6)s为诸观测点yi与由曲线给出的拟合值间的平均偏离程度的度量，s越小，方程越好。2()2iiyysnˆiy第八章方差分析与回归分析第19页在观测数据给定后，不同的曲线选择不会影响的取值，但会影响到残差平方和的取值。因此，对选择的曲线而言，决定系数和剩余标准差都取决于残差平方和，从而，两种选择准则是一致的，只是从两个不同侧面作出评价。21()niiyy21()niiiyy21()niiiyy第八章方差分析与回归分析第20页表8.5.4给出第一个曲线回归方程的残差平方和的计算过程，由于n=13，，故其决定系数及剩余标准差分别为：其它三个方程的决定系数及剩余标准差可同样计算，我们将它们列在表8.5.5中。1321()0.5743iiyy20.57430.574310.9729,0.228521.2105132Rs第八章方差分析与回归分析第21页表8.5.5四种曲线回归的决定系数及剩余标准差模型编号1)2)3)4)R20.97290.87730.78510.9623s0.22850.48640.64370.2696从表8.5.5中可以看出，第一个曲线方程的决定系数最大，剩余标准差最小，在这四个曲线回归方程中，不论用哪个标准，都是第一个方程拟合得最好。因此，近似得比较好的定量关系式就是0.000829170.00896663xyx第八章方差分析与回归分析第22页三种方法的拟合效果比较：2468101214161820106107108109110111112散点图回归函数2468101214161820106107108109110111112散点图回归函数2468101214161820106107108109110111112散点图回归函数R2=0.87731500489620R2=0.97292374957556R2=0.78514164407253第八章方差分析与回归分析第23页第一种方法的程序formatlongx=[23457810111415161819];y=[106.42108.20109.58109.5110109.93110.49110.59110.60110.9110.76111111.20];plot(x,y,‘k+’);%数据的散点图x1=1./x;y1=1./y;plot(x1,y1,‘k+’);%变换后数据的散点图x2=[ones(13,1)x1'];[b,bint,rint,stats]=regress(y1',x2);z=b(1)+b(2)*x1;yc=1./z;plot(x1,y1,‘k+’,x1,z,‘r’)%变换后数据的散点图和回归直线图n=length(x);lyy=sum(y.^2)-n*(mean(y))^2;R2=1-sum((y-yc).^2)/lyy;%模型的拟合优度系数plot(x,y,'k+',x,yc,'r')%变换后数据的散点图和回归直线图legend('散点图','回归函数')