环境统计学第四章多元线性回归

1环境统计学•授课教师：林红军•授课时间：2010学年第二学期（EnvironmentalStatistics）环境科学系办公地点：校8幢123室，17幢612室E-mail:[e-mail],[e-mail]：15958459856,6798562环境统计学•第1章绪论•第2章概率统计基础•第3章环境一元线性回归分析•第4章环境多元线性回归分析基本概念基本原理常用的统计学术语随机事件概率数学特征概率分布统计推断回归模型最小二乘法显著性检验3随机事件随机试验随机事件事件的运算概率概率古典概率概率计算数学特征数学期望方差变异系数协方差相关系数概率数学特征随机事件概率分布正态分布t分布x2分布F分布概率分布统计推断参数估值点估计区间估计置信区间假设检验统计推断概率统计基础4最小二乘法估计显著性检验回归模型SPSS求解环境应用多元线性回归5问题的提出所以在一元线性模型的基础上，提出多元线性模型—解释变量个数≥2现实生活中引起被解释变量变化的因素并非仅只一个解释变量，可能有很多个解释变量。公司产出往往受各种投入要素—资本、劳动、技术等的影响；公司销售额往往受价格和公司对广告费的投入的影响；湖泊水的浊度与温度、水位、周边工业总产值有关等。61.多元线性回归模型71.多元线性回归模型回归模型•多元线性回归模型:一个应变量与多个解释变量之间设定的是线性关系XbbY10kkXbXb22一元线性回归模型多元线性回归模型18多元线性回归模型的假设•解释变量Xi是确定性变量，不是随机变量；解释变量之间互不相关，即无多重共线性。•随机误差项不存在序列相关关系•随机误差项与解释变量之间不相关•随机误差项服从0均值、同方差的正态分布kkXbXbXbbY221109),,,,(321kXXXXY湖泊水的浊度与温度、水位、周边工业总产值等因素有关niXXXYkiiii,,2,1),,,,(21对这些量进行了许多次(n)观测),,,,(),,,,(),,,,(323133222122121111kkkXXXYXXXYXXXY10多元回归分析数据格式kkkkkk11多元模型的解析表达式ikikiiikiiiikkXbXbXbbYniXXXYnXbXbXbbY221102122110,,2,1),,,,(得：个样本观测值nknknnnkkkkXbXbXbbYXbXbXbbYXbXbXbbY221102222212102112121110112nkknkknnnbbbbXXXXXXXXXYYY2121021222211121121111多元模型的矩阵表达式XBY13多元模型的矩阵表达式XBYnknknnnkkkkXbXbXbbYXbXbXbbYXbXbXbbY2211022222121021121211101nkknkknnnbbbbXXXXXXXXXYYY212102122221112112111114nkknkknnnbbbbXXXXXXXXXYYYBXYXBY2121021222211121121111矩阵形式152.参数最小二乘法估计最小二乘估计16xy(xn,yn)(x1,y1)(x2,y2)(xi,yi)｝i=yi-yi＾niiQ12nii12172.参数最小二乘法估计niiQ120ˆ0ˆ0ˆ0ˆ210kbQbQbQbQ最小二乘法估计niniXbXbbYyykikiiii1212ˆˆˆˆ110180000ˆˆˆˆˆˆˆˆˆˆˆˆ1102110211101110XXbXbbxYXXbXbbXYXXbXbbXYXbXbbYkikikikiiikikiiiikikiiikikii得到下列方程组求参数估计值的实质是求一个k+1元方程组0ˆ0ˆ0ˆ0ˆ210kbQbQbQbQ19正规方程变成矩阵形式ikikikkiikiikiiiikikiiiiikikiiYXXbXXbXXbXbYXXXbXXbXbXbYXbXbXbbn222110111222111022110ˆˆˆˆˆˆˆˆˆˆˆˆikiiiikkikiikiikiikiiiiikiiiYXYXYbbbbXXXXXXXXXXXXXXXn121022111221121ˆˆˆˆ20•矩阵的乘法•定义设是一个矩阵，是一个矩阵，则规定与的乘积是一个矩阵，其中记为()ijAaml()ijBblnABmn()ijCc11221(1,2,,;1,2,,)ijijijilljlikkjkcababababimjnCAB=•例设矩阵求乘积．解101,113A113121430BAB034101121113311CAB3143239101041033006210523×××22正规方程变成矩阵形式ikikikkiikiikiiiikikiiiiikikiiYXXbXXbXXbXbYXXXbXXbXbXbYXbXbXbbn222110111222111022110ˆˆˆˆˆˆˆˆˆˆˆˆikiiiikkikiikiikiikiiiiikiiiYXYXYbbbbXXXXXXXXXXXXXXXn121022111221121ˆˆˆˆkbbbbBˆˆˆˆˆ21023正规方程ikiiiikkikiikiikiikiiiiikiiiYXYXYbbbbXXXXXXXXXXXXXXXn121022111221121ˆˆˆˆ较烦2422111221121kikiikiikiikiiiiikiiiXXXXXXXXXXXXXXXnXX正规方程XXXXXXXXXknkknnX212222111211111XXXXXXXXknnkkkX13132121111111矩阵的转置25矩阵形式YXXXBYXBXX1)(ˆˆ22111221121kikiikiikiikiiiiikiiiXXXXXXXXXXXXXXXnXXkbbbbBˆˆˆˆˆ210ikiiiiYXYXYYX1正规方程26最小二乘法的矩阵表示1ˆ0ˆ0ˆˆˆˆ2ˆˆ)ˆˆˆˆ()ˆ)(ˆ()ˆ()ˆ(ˆˆˆ),0(~ˆˆˆ2112122knɛɛYXXXBBXXYXBQBXXBYXBYYYXBBXYBXXBYXBBXYYYBXYXBYQBXYBXYɛɛBXYYYEyyQNεɛXBYBXYniiiniiɛss？为什么27举例说明年份yx1x2x3x4x5x619781121.142371397569962591558.6507619791103.346811698645975421800.0393719801085.251541923767987052140.0445319811089.5540021817471000722350.0397919821124.0581124839121016542570.0331319831249.06461275010351030082849.4347119841501.97617321412631043573376.4318919851866.49716361916561058514350.0443719862260.311194401320381075074950.0471419872386.913813417624311093005820.0420919882628.018224586529671110267440.0508719892947.922017653528341127048101.4469919903244.823851766230351143338300.13847•例.为了建立国家财政收入回归模型，我们以财政收入y（单位:103元）为因变量。自变量如下:x1—工业总产值/108元，x2—农业总产值/108元，x3—建筑业总产值/108元，x4—人口数/104人，x5—社会商品零售总额/108元，x6—受灾面积/104hm2,下表为《中国统计年鉴》1978～1990年统计数据。求它们之间的关系。28解：设理论回归模型为)13,,2,1(6655443322110ixbxbxbxbxbxbbyi234.0849.0147.0;745.0071.0208.0140496543210bbbbbbb；；；；；根据表中的数据，由最小二乘法计算得到的未知参数的估计分别是：得到六元线性回归方程为：654321234.0849.0147.0745.0071.0208.014049ˆxxxxxxy293SPSS求解30SPSS求解313233输出结果1.描述统计量2.相关系数矩阵343.变量选择方式4.模型概要355.方差分析和F检验6.参数估计和回归参数的t检验364线性回归的显著性检验374线性回归的显著性检验假设求得的回归方程为：kikiiixbˆxbˆxbˆbˆYˆ221104.1总离差平方和分解ikikiiiXbXbXbbY2211038YYˆYˆYYYiiii同一元回归，可得：并且：222YYYYˆYYiii4.1总离差平方和分解39niiiyyS12)ˆ(残niiyyS回12)ˆ(niiyyS12)(总niiiiyyyy12)]ˆ()ˆ[(