回归模型的参数估计与假设检验

高等测量平差孙海燕武汉大学测绘学院第三章回归模型的参数估计与假设检验第一节概述武汉大学测绘学院孙海燕一、变量与变量之间的关系1.函数相关----确定性关系2.统计相关----不存在确定的关系第三章回归模型的参数估计与假设检验武汉大学测绘学院孙海燕一、变量与变量之间的关系cosxs1、函数相关----确定性关系例1：矩形面积与其两边之间存在确定性关系为；例2：一个平面三角形的一个内角与其它两个内角、的关系为为；两点间的纵坐标增量边长及方位角的关系为：0180S,abSabsinys第三章回归模型的参数估计与假设检验武汉大学测绘学院孙海燕2、统计相关----不存在确定的关系例1：每年春季气温与降雨量；例2：人的高度与体重之间；例3：测距结果与仪器中电子线路受固定的干扰信号引起误差之间；例4：重力测量结果与气压、温度、地下水等因素之间；例5：海平面变化与气象、海洋天文因素之间；例6：断层位移与断层活动趋势、气温、地温、蒸发、降雨量之间；统计相关的特点:它们之间既存在着一定的制约关系，又不能由一个（或几个）变量数值精确地求出另一个变量的值来。第三章回归模型的参数估计与假设检验武汉大学测绘学院孙海燕回归分析主要研究的问题：1、如何根据样本，建立回归模型；2、如何估计回归模型参数；3、如何检验模型参数的显著性；4、如何利用回归方程进行预报和控制。二、回归分析方法是研究相关关系的一种有力的数学工具。它是建立在对客观事物进行大量实验和观测的基础上，寻找隐藏在不确定性关系后面的统计性规律的数理统计方法。第三章回归模型的参数估计与假设检验武汉大学测绘学院孙海燕第二节线性回归模型线性回归理论模型回归方程的系数mmxxxyE22110)(1,2jjmn组观测数据12,,,iiimiyxxxn个观测方程01122iiimimiyxxx矩阵形式mmxxxy22110线性回归模型1,1,11,1,nmmnnXYEDE2)(,0)(随机模型第三章回归模型的参数估计与假设检验武汉大学测绘学院孙海燕第三节回归参数的最小二乘估计一、一元线性回归的参数估计01yx),,2,1(10nixyiiiXYnyyyY21nxxxX11121n2110ˆˆYXVˆminVVTYXXXTTˆYXXXTT1)(ˆniiniiniiTxxxnXX1211niiiniiTyxyYX11第三章回归模型的参数估计与假设检验武汉大学测绘学院孙海燕niiniiniiTxxxnXX1211niiiniiTyxyYX112)(xnSxnxnnXXxxTniininiiiniiiniixxxnxxnxxxxxxxxxS1221122122122)2()(niiiniiixyyxyxyyxxS11))((yxSynYXxyT第三章回归模型的参数估计与假设检验武汉大学测绘学院孙海燕111)(2222221xxxnSSnxnxnxnSxnxnnSXXxxxxxxxxTxxxyxxxyxxxyxyxxxxSSxySSSSxyyxnSynxxxnSS121011ˆˆ22ˆˆ1111xxxxxxxxxxxxxxSnSSxxQnSxxSS2)ˆ(2122nyynVVniiiT第三章回归模型的参数估计与假设检验武汉大学测绘学院孙海燕例：编号库水位X（m）沉陷量Y（mm）1102.714-1.96295.154-1.883114.364-3.964120.170-3.315126.630-4.946129.393-5.697135.046-5.468140.373-5.699144.958-3.9410141.011-5.8211130.308-4.1812121.234-2.901129.125x1442.4y9880.2579xxS9442.194xyS0756.0ˆ1xxxySS3094.5ˆˆ10xyxy0756.03094.5ˆ第三章回归模型的参数估计与假设检验武汉大学测绘学院孙海燕二、多元线性回归的最小二乘估计01122mmyxxx多元线性回归模型为20,ED……………1112211101...mmxxxy2222221102...mmxxxynnmmnnnxxxy...22110ˆˆ...ˆˆˆˆ22110XxxxYmmˆVYYYXVˆnmnnmmmnxxxxxxxxxX...1.........1...121222211121111ˆTTXXAY)1(ˆ2mnVVT1ˆˆ)(XXQTˆˆ2)ˆ(QD多元线性回归方程为第三章回归模型的参数估计与假设检验武汉大学测绘学院孙海燕第四节线性回归统计的分布和统计性质ˆˆ,,,YYVˆ2ˆ21、均为正态变量；是最优线性无偏估计；是的无偏估计。2、3、第三章回归模型的参数估计与假设检验武汉大学测绘学院孙海燕第五节回归模型和回归系数的显著性检验yxxy一、相关系数及其检验一元线性回归方程的前提是变量y与x应存在线性的统计相关，因此，必须有一个数量性指标来描述两个变量间线性相关的程度，这一指标通常采用相关系数。1、相关系数11ˆxyxxyySSS))((1yyxxSniiixy21)(yySniiyy21)(xxSniixx第三章回归模型的参数估计与假设检验武汉大学测绘学院孙海燕2、相关系数检验在原假设成立时，的密度函数为42212ˆˆ()(1)22nnfn0)ˆ(Eˆ对相关系数的假设检验01ˆ:()0:0HEHˆxyxxyySSS第三章回归模型的参数估计与假设检验武汉大学测绘学院孙海燕自由度置信水平自由度置信水平自由度置信水平5%1%5%1%5%1%123456789100.9970.9500.8780.8110.7540.7070.6660.6320.6020.5761.0000.9900.9590.9170.8740.8340.7980.7650.7350.708111213141516171819200.5530.5320.5140.4970.4850.4680.4560.4440.4330.4230.6840.6610.6410.6230.6060.5900.5750.5610.5490.537253035404550607080900.3810.3490.3250.3040.2880.2730.2500.2320.2170.2050.4870.4490.4180.3960.3720.3540.3250.3020.2830.267相关系数假设检验临界值第三章回归模型的参数估计与假设检验武汉大学测绘学院孙海燕二、方差分析法目的：检验回归方程总体显著性设：的个观测值之间的差异，用观测值与其平均值的偏差平方和来表示，称为总偏差平方和，记为21)]ˆ()ˆ[(yyyyiinii)ˆ)(ˆ(2)ˆ()ˆ(11221yyyyyyyyniiiiniiinii回残SS21)(yySnii总Yn第三章回归模型的参数估计与假设检验武汉大学测绘学院孙海燕niiniiiniiniiiniiiivyyvyvyvyyyy11111ˆˆ)ˆ)(ˆ(0)ˆˆ()ˆˆ(ˆˆ)ˆˆ(111011101101yxxynyxnyxnyxvniiniiiininii0ˆˆ1XVYVyvTTniiiYXVVVTˆmin02ˆXVVVTT0XVT0)ˆ)(ˆ(1yyyyniiii第三章回归模型的参数估计与假设检验武汉大学测绘学院孙海燕回残总SSS总偏差平方和的分解公式：回归平方和:变量的变化而引起的对的偏离平方和ixˆiyy21)ˆ(yySnii回残差平方和:各种偶然因素干扰所引起的与偏离的平方和iyiyˆ21)ˆ(iniiyyS残第三章回归模型的参数估计与假设检验武汉大学测绘学院孙海燕回残总SSS22122ˆ()()niiyySm回2122()(1)niiyySn总22122ˆ()((1))niiiyySnm残)1(mnSmSF残回第三章回归模型的参数估计与假设检验武汉大学测绘学院孙海燕0:0jH三、参数显著性检验逐一对参数的显著性进行检验0:1jH])(,[~ˆ12XXNT),(~ˆ2jjjqN统计量为jjfqtˆˆ)(第三章回归模型的参数估计与假设检验武汉大学测绘学院孙海燕xy0756.03094.5ˆ应用方差分析法和检验法检验回归效果的显著性。例2，在例1中，求得回归方程为t01:0H11:0H14.7456S回方差分析：44.7VVST残82.197440.07456.14)2/(nSSF残回05.0F04.102F2FF0H以，分子自由度为1，分母自由度为10，查分布表得，因，所以拒绝，分子自由度为1，分母自由度为10，查分布表得，，所以拒绝第三章回归模型的参数估计与假设检验武汉大学测绘学院孙海燕检验t01:0H11:0H05.0t2tt0H以，分子自由度为1，分母自由度为10，查分布表得，所以拒绝，自由度为10，查分布表，，因4516.48626.00756.09880.2579ˆˆˆˆ11xxiSqt23.22t，所以拒绝第三章回归模型的参数估计与假设检验武汉大学测绘学院孙海燕以，分子自由度为1，分母自由度为10，查分布表得，所以拒绝2ˆ（1）估计回归方程（2）计算方差的估值及的方差（3）回归方程显著性检验（F检验）（4）回归参数显著性检验（t检验）iˆ例：（P37）0ˆ:0ˆ:201021HH检验结果：拒绝，接受。10H20H第三章回归模型的参数估计与假设检验武汉大学测绘学院孙海燕ˆˆ...ˆˆˆˆ0022011000Xxxxymm第六节预报值的标准差和区间估计回归分析的一个主要目的是根据给定的x值对y进行预报，预报值21000ˆ()[()]TTDyXXXX0y20~0,N观测值210000ˆ()[1()]TTDyyXXXX2222ˆ(1)((1))Snmnm残第三章回归模型的参数估计与假设检验武汉大学测绘学院孙海燕)1(~)(1ˆˆ01000mntXXXXyytTT统计量预报值的区间估计)(ˆ),(ˆ0000xyxy)1()(1ˆ)(20100mntXXXXxTT第三章回归模型的参数估计与假设检验武汉大学测绘学院孙海燕例:在不同温度下，测定某铟钢尺的尺长改正数，得9个观测值如下：