第3章一元线性回归分析一元线性回归分析3.1一元线性回归模型3.2一元线性回归模型参数估计3.2.1回归系数估计3.2.2误差的估计—残差3.2.3和的分布3.3更多假设下OLS估计量性质3.4回归系数检验(t-检验)3.5拟合优度和模型检验(F检验)2R0ˆ1ˆ一元线性回归分析3.6用EViews7.2进行一元线性回归3.7假设条件的放松3.7.1假设条件的放松(一)—非正态分布误差项3.7.2假设条件的放松(二)—异方差3.7.3假设条件的放松(三)—非随机抽样和序列相关3.7.4假设条件的放松(四)—内生性3.7.5总结重要概念3.1一元线性回归模型计量经济学用回归模型来描述经济变量之间的随机关系。因变量(被解释变量)自变量(解释变量)回归模型参数(回归系数)误差项(扰动项)uXY103.1一元线性回归模型模型首先要保证的变化不会引起的变化,这称为的外生性,否则对的影响不能正确确定。假设1(零条件均值:zeroconditionalmean)给定解释变量,误差项条件数学期望为0,即XuXXY0)|(EXu0)(Eu3.1一元线性回归模型模型设定要以有关的经济学理论为基础。样本模型:niuXYiii,,2,1,103.2一元线性回归模型参数估计3.2.1回归系数估计3.2.2误差的估计—残差3.2.3和的分布0ˆ1ˆ3.2一元线性回归模型参数估计3.2.1回归系数估计总体矩条件:样本矩条件:0])(E[)E(0)(EE1010XXYuXXYu0)ˆˆ(0)ˆˆ(11011101niiiiniiiXXYnXYn3.2一元线性回归模型参数估计3.2.1回归系数估计OLS估计:()不带常数项的回归模型XYXXYYXXniiniiiˆˆ,)())((ˆ01211niiiniiuXXXX111211)()(ˆ回归系数估计结论:(矩估计量性质)OLS估计的一致性(结论1)如果回归模型误差项满足假设1,上式给出和分别为和的一致估计:OLS估计的无偏性(结论2)如果回归模型误差项满足假设1,上式给出和分别为和的无偏估计:0ˆ011100ˆlim,ˆlimnnpp0ˆ011100)ˆE(,)ˆ(E1ˆ1ˆ3.2一元线性回归模型参数估计3.2.2误差估计-残差的回归拟合值(fittedvalue):回归残差(residual):iYniXYii,,2,1,ˆˆˆ10niYYuiii,,2,1,ˆˆ误差估计-残差结论:如果假设1满足,则回归残差是回归误差的一致估计且数学期望为0(结论3)如果假设1满足,则回归残差满足:(结论4)残差平方和(SumofSquaredResidual):0)ˆ(E;ˆiipiuuu0ˆ,0ˆ11niiiniiXuuniiiniiXYu121012)ˆˆ(ˆSSR3.2一元线性回归模型参数估计3.2.3和的分布由矩估计性质知和渐近服从正态分布,但具体方差依对误差项的假设而定。结论5:如果假设1满足,则当样本量较大时,OLS估计和近似服从正态分布:0ˆ1ˆ0ˆ1ˆn0ˆ1ˆ),(~ˆ);,(~ˆ2ˆ012ˆ0010)()(NNaa3.3更多假设下OLS估计量性质假设2(同方差:homoskedasticity)给定解释变量,误差项条件方差为常数,即假设3(随机抽样:randomsample)样本是随机抽样产生的,样本之间相互独立,模型误差项之间相互独立。2)|(VariiXuniXYii,,2,1),,(niui,,2,1,3.3更多假设下OLS估计量性质结论6:如果假设1~假设3满足,则当样本量较大时,OLS估计和近似服从正态分布,方差计算公式为:n0ˆ1ˆniiniiniiXXXXXn1222ˆ2121212ˆ)(,)(103.3更多假设下OLS估计量性质结论7:如果假设1~假设3满足,统计量是误差项方差的无偏估计和一致估计,即称为回归标准误(standarderrorofregression),记为。2SSR2ˆˆ122nnunii22222ˆlim,)ˆ(npEˆˆs3.3更多假设下OLS估计量性质结论8:如果假设1~假设3满足,则当样本量较大时,如下统计量近似服从正态分布(结论8)n)1,0(~ˆ),1,0(~ˆ)()(1100ˆ11ˆ00NstNstaa3.3更多假设下OLS估计量性质结论9:如果假设1~假设3满足,OLS估计和为最有效估计:在的所有线性无偏估计中,的方差最小。这称为OLS估计的马尔科夫性。0ˆ1ˆ10,10ˆ,ˆ3.3更多假设下OLS估计量性质假设4(正态分布:normaldistribution)给定解释变量,模型中的误差项服从正态分布,即其中iXiu),0(~|2iiiNXu)|(Var2iiiXu3.3更多假设下OLS估计量性质结论10:如果假设1~假设4满足,则(1)(2)(3)SSR与独立,由此得出其中,、、、由课本公式(3.15)给出。),(~ˆ);,(~ˆ2012001ˆ0ˆNN)2(~SSR/22n10ˆ,ˆ)2(~ˆ),2(~ˆ1100ˆ11ˆ00ntstntst20ˆ21ˆ0ˆs1ˆs3.4回归系数检验(t-检验)估计出参数后需对模型的有效性进行检验,即检验回归系数是否显著不为零。例如考虑结论10中统计量(假设1到4全部成立):t-检验的涵义:估计参数的绝对值足够大或者标准误很小(标准误小则随机性小,估计越精确)样本量较大时(35),t分布接近正态分布,5%置信水平下临界值接近2,因此常用统计量是否大于2作为判断系数显著与否的标准。1t)2(~ˆ11ˆ1ntstn3.5拟合优度和模型检验(F检验)检验和之间是否具有线性关系:看的变化能被的变化解释多少。总平方和(totalsumsquared):解释平方和(explainedsumsquared):残差平方和(SumofSquaredResidual):2RXXYYniiYY12)(TSSniiYY12)ˆˆ(ESSniiu12ˆSSRTSSSSR1TSSESSR23.5拟合优度和模型检验(F检验)不带常数项的模型其相应的TSS和ESS为:F-统计量:(原假设备择假设分别为:)2RniiniiYY1212ˆESS,TSS)2/(RSS1/ESSnF0:H;0:H11103.5拟合优度和模型检验(F检验)结论:设模型的截距项,模型误差项满足假设1,则:(结论11)TSS=ESS+SSR如果假设1~假设4全都满足,则上面定义的F-统计量满足:(结论12)t-检验和F-检验等价2R00)2,1(~nFF3.6用EViews7.2进行一元线性回归步骤:•先建立Excel数据文件,再将数据导入EViews,建立工作文件,在数据表格界面点击菜单:Proc→MakeEquation,进入模型估计(EquationEstimation)对话框•在specification中依次填入因变量、自变量和常数项(如果没有则不写)3.6用EViews7.2进行一元线性回归步骤:•在估计方法设定窗口选择需要用到的估计方法•前面的步骤也可以通过主界面的Quick→EstimateEquation到达•点击OK,将输出结果:3.6用EViews7.2进行一元线性回归在结果页面点击顶端按钮Resids,将输出残差图3.6用EViews7.2进行一元线性回归3.6用EViews7.2进行一元线性回归•残差将保存在resid中,另外,在回归结果输出界面点击菜单Forecast,在弹出的对话框中Forecastname:后面的条形窗口输入变量名,将可以保存模型的拟合值。3.7假设条件的放松3.7.1假设条件的放松(一)—非正态分布误差项3.7.2假设条件的放松(二)—异方差3.7.3假设条件的放松(三)—非随机抽样和序列相关3.7.4假设条件的放松(四)—内生性3.7.5总结3.7假设条件的放松3.7.1假设条件的放松(一)—非正态分布误差项•放松了假设4后,与之相关的结论10和12不再成立,t-检验、F-检验不再成立。•大样本情况下,t-统计量近似服从标准正态分布,因此可以用标准正态分布临界值进行判断。•去掉假设4不影响OLS估计的一致性、无偏性和渐近正态性。3.7假设条件的放松3.7.2假设条件的放松(二)—异方差•异方差不影响OLS估计的无偏性、一致性和渐近正态性。•课本(3.15)式参数估计的方差、标准误不再正确。•White异方差稳健标准(HeteroskadesticityRobustStandardErrors)•用Eviews检验异方差的存在并进行White稳健标准误回归3.7假设条件的放松3.7.3假设条件的放松(三)—非随机抽样和序列相关•同异方差一样,序列相关不影响OLS估计的无偏性、一致性和渐近正态性。•影响参数估计的方差和标准误。•Newey-West方法(HAC:Heteroskedasticity-AutocorrelationConsistent)•用Eviews进行Newey-West回归3.7假设条件的放松3.7.4假设条件的放松(四)—内生性假设1’模型误差项和解释变量不相关0,即结论5’:如果假设1’满足,(1)OLS估计和是和的一致估计;(2)当样本量较大时,和近似服从正态分布:0),(CovXu0ˆ1ˆ01n0ˆ1ˆ),(~ˆ);,(~ˆ2ˆ012ˆ0010)()(NNaa3.7假设条件的放松3.7.4假设条件的放松(四)—内生性•无偏性不再成立•若假设1’都不能满足,则存在内生性问题,OLS不再适用。3.7假设条件的放松3.7.5总结外生性假设是最基本的假设,是使用OLS的前提,此时OLS估计有一致性和渐进正态性。如果外生性、同方差和随机抽样假设同时成立,则OLS估计近似服从正态分布,参数估计的标准误采用(3.15)计算,并采用结论8中的统计量对参数进行t检验。如果仅外生性和随机抽样假设成立,参数估计同上,但参数方差及标准误要用White方法进行调整。3.7假设条件的放松3.7.5总结(续)如果外生性假设成立,但误差项存在异方差和序列相关,此时应当用Newey-West的HAC方法调整方差及标准误估计。例子3.4奥肯定律(见课本)重要概念1.线性回归模型将因变量(被解释变量)表示成自变量(解释变量)线性函数和误差项的和,用OLS方法估计模型的回归系数及其标准误,并对模型显著性进行检验。2.根据研究的经济问题及其样本数据来源,可以对模型误差项做出各种假设。误差项零条件均值假设是最基本的假设,即另一种较弱的假设是解释变量的外生性假设,该假设保证解释变量形成的线性函数和误差项不相互影响,从而能将对的影响完全通过斜率参数反映。3.利用零条件均值假设或者外生性假设得出的矩条件,采用矩估计方法得出一元线性回归模型截距和斜率的OLS估计YXu0)|E(Xu0),Cov(XuX10uXY1XYXXYYXXniiniiiˆˆ,)(/))((ˆ01211][重要概念4.外生性假设满足时,回归系数的OLS估计具有一致性,保证了当样本量增大时OLS估计依概率无限接近被估计参数;同时成立的还有OLS估计的渐进正态性,不管误差项服从什么分布,当样本量较大时OLS估计近似服从正态分布,为回归系数的假设检验统计量构造提供了基础。5.要对回归系数进行假设检验,OLS估