计量经济学演示课件 教学PPT 作者 庞皓 第二章 简单线性回归模型

计量经济学第二章简单线性回归模型2从2004中国国际旅游交易会上获悉，到2020年，中国旅游业总收入将超过3000亿美元，相当于国内生产总值的8%至11%。（资料来源：国际金融报2004年11月25日第二版）◆是什么决定性的因素能使中国旅游业总收入到2020年达到3000亿美元？◆旅游业的发展与这种决定性因素的数量关系究竟是什么？◆怎样具体测定旅游业发展与这种决定性因素的数量关系?引子:中国旅游业总收入将超过3000亿美元吗？3第二章简单线性回归模型本章主要讨论:●回归分析与回归函数●简单线性回归模型参数的估计●拟合优度的度量●回归系数的区间估计和假设检验●回归模型预测4第一节回归分析与回归方程本节基本内容:●回归与相关●总体回归函数●随机扰动项●样本回归函数51.经济变量间的相互关系◆确定性的函数关系◆不确定性的统计关系—相关关系(ε为随机变量)◆没有关系一、回归与相关（对统计学的回顾）()YfX()YfX62.相关关系◆相关关系的描述相关关系最直观的描述方式——坐标图（散布图）YX7◆相关关系的类型●从涉及的变量数量看简单相关多重相关（复相关）●从变量相关关系的表现形式看线性相关——散布图接近一条直线非线性相关——散布图接近一条曲线●从变量相关关系变化的方向看正相关——变量同方向变化，同增同减负相关——变量反方向变化，一增一减不相关83.相关程度的度量—相关系数总体线性相关系数：其中：——X的方差；——Y的方差——X和Y的协方差样本线性相关系数：其中：和分别是变量和的样本观测值和分别是变量和样本值的平均值Cov(,)Var()Var()XYXYVar()XVar()YCov(,)XY________22()()()()iiXYiiXXYYXXYY__YiXiYXXYXY9●和都是相互对称的随机变量●线性相关系数只反映变量间的线性相关程度，不能说明非线性相关关系●样本相关系数是总体相关系数的样本估计值，由于抽样波动，样本相关系数是个随机变量，其统计显著性有待检验●相关系数只能反映线性相关程度，不能确定因果关系，不能说明相关关系具体接近哪条直线计量经济学关心：变量间的因果关系及隐藏在随机性后面的统计规律性，这有赖于回归分析方法使用相关系数时应注意XY104.回归分析回归的古典意义：高尔顿遗传学的回归概念(父母身高与子女身高的关系)回归的现代意义：一个应变量对若干解释变量依存关系的研究回归的目的（实质）：由固定的解释变量去估计应变量的平均值11●的条件分布当解释变量取某固定值时（条件），的值不确定，的不同取值形成一定的分布，即的条件分布。●的条件期望对于的每一个取值，对所形成的分布确定其期望或均值，称为的条件期望或条件均值注意几个概念iXXYYYYYYYXYXE()iYX12iXYX●回归线:对于每一个的取值，都有的条件期望与之对应，代表这些的条件期望的点的轨迹所形成的直线或曲线，称为回归线。回归线与回归函数XYYE()iYX13回归函数：应变量的条件期望随解释变量的的变化而有规律的变化，如果把的条件期望表现为的某种函数这个函数称为回归函数。回归函数分为：总体回归函数和样本回归函数举例：假如已知100个家庭构成的总体。回归线与回归函数YXXE()()iiYXfXYE()iYXE()iYX14每月家庭可支配收入X100015002000250030003500400045005000550082096211081329163218422037227524642824888102412011365172618742110238825893038932112112641410178619062225242627903150每960121013101432183510682319248828563201月125913401520188520662321258729003288家132414001615194321852365265030213399庭1448165020372210239827893064消1489171220782289248728533142费1538177821792313251329343274支160018412298239825383110出17021886231624232567Y1900238724532610201224982487271025892586900115014001650190021502400265029003150E()iYX例:100个家庭构成的总体(单位:元)151.总体回归函数的概念前提：假如已知所研究的经济现象的总体应变量和解释变量的每个观测值,可以计算出总体应变量的条件均值，并将其表现为解释变量的某种函数这个函数称为总体回归函数（PRF）二、总体回归函数（PRF）E()()iiYX=fXYYXXE()iYX16iuiXXY)(iXYEiY（1）条件均值表现形式假如的条件均值是解释变量的线性函数，可表示为：（2）个别值表现形式对于一定的，的各个别值分布在的周围，若令各个与条件均值的偏差为,显然是随机变量,则有或2.总体回归函数的表现形式iXE()iYX12E()()iiiiYXfXXiYE()iYXiYE()iYXiuiu12E()iiiiiiuYYXYX12iiiYXuYYX17●实际的经济研究中总体回归函数通常是未知的，只能根据经济理论和实践经验去设定。“计量”的目的就是寻求PRF。●总体回归函数中与的关系可是线性的，也可是非线性的。对线性回归模型的“线性”有两种解释就变量而言是线性的——的条件均值是的线性函数就参数而言是线性的——的条件均值是参数的线性函数3.如何理解总体回归函数YXYYX18变量、参数均为“线性”参数“线性”，变量”非线性”变量“线性”，参数”非线性”计量经济学中:线性回归模型主要指就参数而言是“线性”,因为只要对参数而言是线性的,都可以用类似的方法估计其参数。12E()iiiYXX212E()iiiYXX12E()iiiYXX“线性”的判断19三、随机扰动项◆概念:各个值与条件均值的偏差代表排除在模型以外的所有因素对的影响。◆性质：是期望为0有一定分布的随机变量重要性：随机扰动项的性质决定着计量经济方法的选择uiYiuYXiXuE()iYXYiu20●未知影响因素的代表●无法取得数据的已知影响因素的代表●众多细小影响因素的综合代表●模型的设定误差●变量的观测误差●变量内在随机性引入随机扰动项的原因21四、样本回归函数（SRF）X样本回归线：对于的一定值，取得的样本观测值，可计算其条件均值，样本观测值条件均值的轨迹称为样本回归线。样本回归函数：如果把应变量的样本条件均值表示为解释变量的某种函数，这个函数称为样本回归函数（SRF）。XYYYX22SRF的特点●每次抽样都能获得一个样本，就可以拟合一条样本回归线，所以样本回归线随抽样波动而变化，可以有许多条（SRF不唯一）。SRF2SRF1YX23●样本回归函数的函数形式应与设定的总体回归函数的函数形式一致。●样本回归线还不是总体回归线，至多只是未知总体回归线的近似表现。2412ˆˆˆiiYX样本回归函数如果为线性函数，可表示为其中：是与相对应的的样本条件均值和分别是样本回归函数的参数应变量的实际观测值不完全等于样本条件均值，二者之差用表示,称为剩余项或残差项：或者样本回归函数的表现形式21ˆˆiiiYXeˆiiieYYieiXiYˆiY1ˆ2ˆieYY25对样本回归的理解如果能够获得和的数值，显然:●和是对总体回归函数参数和的估计●是对总体条件期望的估计●在概念上类似总体回归函数中的，可视为对的估计。ieˆiYiuE()iYX12ˆˆiiiYXe1ˆ2ˆ2ˆ1ˆ12iu26iY样本回归函数与总体回归函数的关系SRFPRFAiuieˆiY()iiEYXiYYiXX271ˆ回归分析的目的用样本回归函数SRF去估计总体回归函数PRF。由于样本对总体总是存在代表性误差，SRF总会过高或过低估计PRF。要解决的问题：寻求一种规则和方法，使得到的SRF的参数和尽可能“接近”总体回归函数中的参数和。这样的“规则和方法”有多种，最常用的是最小二乘法2ˆ1228第二节简单线性回归模型的最小二乘估计本节基本内容:●简单线性回归的基本假定●普通最小二乘法●OLS回归线的性质●参数估计式的统计性质29一、简单线性回归的基本假定1.为什么要作基本假定？●模型中有随机扰动，估计的参数是随机变量，只有对随机扰动的分布作出假定，才能确定所估计参数的分布性质，也才可能进行假设检验和区间估计●只有具备一定的假定条件，所作出的估计才具有较好的统计性质。30（1）对模型和变量的假定如假定解释变量是非随机的，或者虽然是随机的，但与扰动项是不相关的假定解释变量在重复抽样中为固定值假定变量和模型无设定误差2、基本假定的内容12iiiYXuXuX31又称高斯假定、古典假定假定1：零均值假定在给定的条件下，的条件期望为零假定2：同方差假定在给定的条件下，的条件方差为某个常数iuiu（2）对随机扰动项的假定uiuXXE()0iiuX2iu22Var()E[E()]iiiiiuXuuX32假定3：无自相关假定随机扰动项的逐次值互不相关假定4：随机扰动与解释变量不相关iuiuX(,)[()][()]ijiijjCovuuEuEuuEu()0()ijEuuij(,)[()][()]0iiiiiiCovuXEuEuXEX33假定5：对随机扰动项分布的正态性假定即假定服从均值为零、方差为的正态分布（说明：正态性假定不影响对参数的点估计，但对确定所估计参数的分布性质是需要的。且根据中心极限定理，当样本容量趋于无穷大时，的分布会趋近于正态分布。所以正态性假定是合理的）iu2(0,)iuNiu2iu34的分布性质由于的分布性质决定了的分布性质。对的一些假定可以等价地表示为对的假定：假定1：零均值假定假定2：同方差假定假定3：无自相关假定假定5：正态性假定iYCov(,)0()ijYYijiiiuXY21iuiuiY12E()iiiYXX2Var()iYX212(,)iiYNXY35◆OLS的基本思想●不同的估计方法可得到不同的样本回归参数和，所估计的也不同。●理想的估计方法应使与的差即剩余越小越好●因可正可负，所以可以取最小即二、普通最小二乘法（ＯrdinaryLeastSquares）1ˆ2ˆˆiYˆiYiYieie2ie2212ˆˆmin()min()iiieYX36正规方程和估计式用克莱姆法则求解得观测值形式的OLS估计式：2^122()iiiiiiiXYXXYnXX取偏导数为0，得正规方程^222()iiiiiinXYXYnXX12ˆˆiiYnX212ˆˆiiiiXYXX37为表达得更简洁，或者用离差形式OLS估计式：注意其中：而且样本回归函数可写为22______2^)())((iiiiiixyxXXYYXXXY2__1^ˆXXxiiYYyii用离差表现的OLS估计式iiixyˆˆ38三、OLS回归线的性质可以证明：●回归线通过样本均值●估计值的均值等于实际观测值的均值XYXYiYˆiY12ˆˆYXˆiYYn39●剩余项的均值为零●应变量估计值与剩余项不相关●解释变量与剩余项不相关ie0neeiˆCov(,)0iiYeˆiYieieiXCov(,)0iiXe40四、参数估计式的统计性质(一)参数估计式的评价标准1.无偏性前提：重复抽样中估计方法固定、样本数不变、经重复抽样的观测值，可得一系列参数估计值参数估计值的分布称为的抽样分布，密度函数