多元线性回归的计算方法

多元线性回归的计算方法2011级数学基地班杨万玺1142012036摘要：回归分析是处理变量间相关关系的一种有效的统计方法。分为一元与多元两大类，通过观测数据，寻找某些指标与变量间关系，当假设满足线性关系时，就使用线性回归方法建立模型，反应与预测未来趋势。关键词：多元线性回归数学模型检验正文：一、多元线性回归模型建立设因变量Y与自变量12mXXX，，线性相关，n次观测数据：12;,,,1iiiimyxxxim满足以下多元线性回归模型：10111110111mmnmnmnyxxyxx（1.1）其中i（i=1…n）是观测误差，一般假定21(0,)N，且互相独立。记11111(1)11,1mnnmmnnmyxxYXyxx，0111(1)1,nmnm则（1.1）可以写成矩阵形式：nICOVEXY2),(,0)(为高斯—马尔柯夫线性模型(多元线性回归模型)，并简记为),,(2nIXY二、模型参数估计2.1参数的最小二乘估计有n组独立观测值，（x1，y1），（x2，y2），…，（xn，yn）设相互独立且，niiiiDEnixy...,,0,...,2,1,21210记niiiniixyQQ12101210),(最小二乘法就是选择0和1的估计0ˆ，1ˆ使得),(min)ˆ,ˆ(10,1010QQ解得01122ˆˆˆyxxyxyxx或niiniiixxyyxx1211ˆ其中niiniiynyxnx111,1，niiiniiyxnxyxnx11221,1.（经验）回归方程为:)(ˆˆˆˆ110xxyxy2.2参数2的无偏估计记niniiiiieyyxyQQ11221010)ˆ(ˆˆ)ˆ,ˆ(称Qe为残差平方和或剩余平方和.2的无偏估计为)2(ˆ2nQee称2ˆe为剩余方差（残差的方差），2ˆe分别与0ˆ、1ˆ独立。eˆ称为剩余标准差.三、模型检验、预测、控制3.1回归方程的显著性检验对回归方程xY10的显著性检验，归结为对假设0:;0:1110HH进行检验.假设被拒绝，则回归显著，认为y与x存在线性关系，所求的线性回归方程有意义；否则回归不显著，y与x的关系不能用一元线性回归模型来描述，所得的回归方程也无意义。用F方法、T方法、R方法判断是否接受假设。3.2回归系数的置信区间1、0和1置信水平为1-α的置信区间分别为xxexxeLxnntLxnnt221022101ˆ)2(ˆ,1ˆ)2(ˆ和xxexxeLntLnt/ˆ)2(ˆ,/ˆ)2(ˆ2112112、2的置信水平为1-的置信区间为)2(,)2(22221nQnQee3.3预测、控制预测：用y0的回归值0100ˆˆˆxy作为y0的预测值0y的置信水平为1的预测区间为0000ˆˆ(),()yxyx其中xxeLxxnntx2021011)2(ˆ)(特别，当n很大且x0在x附近取值时,y的置信水平为1的预测区间近似为2121ˆˆ,ˆˆuyuyee控制：要求：xy10的值以1的概率落在指定区间yy,只要控制x满足以下两个不等式yxyyxy)(ˆ,)(ˆ要求：xy10的值以1的概率落在指定区间yy,，则xx,就是所求的x的控制区。