三大检验LM-WALD-LR

学习计量第11章模型的诊断与检验11.1模型总显著性的F检验（已讲过）11.2模型单个回归参数显著性的t检验（已讲过）11.3检验若干线性约束条件是否成立的F检验11.4似然比（LR）检验11.5沃尔德（Wald）检验11.6拉格朗日乘子（LM）检验11.7邹（Chow）突变点检验（不讲）11.8JB（Jarque-Bera）正态分布检验（不讲）11.9格兰杰（Granger）因果性检验（不讲）（第3版252页）在建立模型过程中，要对模型参数以及模型的各种假定条件作检验。这些检验要通过运用统计量来完成。在第2章和第3章已经介绍过检验单个回归参数显著性的t统计量和检验模型参数总显著性的F统计量。在第5章介绍了模型误差项是否存在异方差的Durbin-Watson检验、White检验；在第6章介绍了模型误差项是否存在自相关的DW检验和BG检验。本章开始先简要总结模型参数总显著性的F检验、单个回归参数显著性的t检验。然后再介绍几个在建模过程中也很常用的其他检验方法。他们是检验模型若干线性约束条件是否成立的F检验和似然比（LR）检验、Wald检验、LM检验、JB检验以及Granger非因果性检验。第11章模型的诊断与检验11.1模型总显著性的F检验以多元线性回归模型，yt=0+1xt1+2xt2+…+kxtk+ut为例，原假设与备择假设分别是H0：1=2=…=k=0；H1：j不全为零在原假设成立条件下，统计量其中SSR指回归平方和；SSE指残差平方和；k+1表示模型中被估参数个数；T表示样本容量。判别规则是，若FF(k,T-k-1)，接受H0；若FF(k,T-k-1),拒绝H0。（详见第3章）（第3版252页）)1,(~)1/()/(kTkFkTSSEkSSRF11.2模型单个回归参数显著性的t检验（第3版253页）对于多元线性回归模型，yt=0+1xt1+2xt2+…+kxtk+ut如果F检验的结论是接受原假设，则检验止。如果F检验的结论是拒绝原假设，则进一步作t检验。检验模型中哪个（或哪些）解释变量是重要解释变量，哪个是可以删除的变量。原假设与备择假设分别是H0：j=0；H1：j0，(j=1,2,…,k)。注意：这是做k个t检验。在原假设成立条件下，统计量t=)ˆ(ˆjjstk-1,(j=1,2,…,k)其中jˆ是对j的估计，)ˆ(js,j=1,2,…,k是jˆ的样本标准差。判别规则是，若ttk-1，接受H0；若ttk-1，拒绝H0。详见第2章。11.3检验若干线性约束条件是否成立的F检验（第3版254页）如H0：10，20，1+0+1=1，1/20.8等是否成立的检验。以k元线性回归模型yt=0+1xt1+2xt2+…+kxtk+ut（无约束模型）为例，比如要检验模型中最后m个回归系数是否为零。模型表达式是yt=0+1xt1+2xt2+…+k-mxtk-m+ut（约束模型）在原假设：k-m+1=…=k=0，成立条件下，统计量)1,(~)1/(/)(kTmFkTSSEmSSESSEFuur其中SSEr表示由估计约束模型得到的残差平方和；SSEu表示由估计无约束模型得到的残差平方和；m表示约束条件个数；T表示样本容量；k+1表示无约束模型中被估回归参数的个数。判别规则是，若FF(m,T–k-1)，约束条件成立；若FF(m,T–k-1)，约束条件不成立。这里所介绍的F检验与检验模型总显著性的F统计量实际上是一个统计量。注意：F检验只能检验线性约束条件。例11.1：建立中国国债发行额模型。首先分析中国国债发行额序列的特征。1980年国债发行额是43.01亿元，占GDP当年总量的1%，2001年国债发行额是4604亿元，占GDP当年总量的4.8%。以当年价格计算，21年间（1980-2001）增长了106倍。平均年增长率是24.9%。中国当前正处在社会主义市场经济体制逐步完善，宏观经济运行平稳阶段。国债发行总量应该与经济总规模，财政赤字的多少，每年的还本付息能力有关系。11.3检验若干线性约束条件是否成立的F检验0100020003000400050008082848688909294969800DEBT（第3版254页）例11.1：建立中国国债发行额模型选择3个解释变量，国内生产总值，财政赤字额，年还本付息额，根据散点图建立中国国债发行额模型如下：DEBTt=0+1GDPt+2DEFt+3REPAYt+ut其中DEBTt表示国债发行总额（单位：亿元），GDPt表示年国内生产总值（单位：百亿元），DEFt表示年财政赤字额（单位：亿元），REPAYt表示年还本付息额（单位：亿元）。01000200030004000500002004006008001000GDPDEBT010002000300040005000-10000100020003000DEFDEBT01000200030004000500005001000150020002500REPAYDEBT（第3版255页）用19802001年数据得输出结果如下；DEBTt=4.31+0.35GDPt+1.00DEFt+0.88REPAYt(0.2)(2.2)(31.5)(17.8)R2=0.999,DW=2.12,T=22,SSEu=48460.78,(1980-2001)是否可以从模型中删掉DEFt和REPAYt呢？可以用F统计量完成上述检验。原假设H0是3=4=0（约束DEFt和REPAYt的系数为零）。给出约束模型估计结果如下，DEBTt=-388.40+4.49GDPt(-3.1)(17.2)R2=0.94,DW=0.25,T=22,SSEr=2942679,(1980-2001)已知约束条件个数m=2，T-k-1=18。SSEu=48460.78，SSEr=2942679。因为F=537.5F(2,18)=3.55，所以拒绝原假设。不能从模型中删除解释变量DEFt和REPAYt。)1/(/)(kTSSEmSSESSEFuur5.537)422/(78.484602/)78.484602942679(（第3版256页）例11.1：建立中国国债发行额模型EViews可以有三种途径完成上述F检验。（1）在输出结果窗口中点击View，选CoefficientTests,WaldCoefficientRestrictions功能（Wald参数约束检验），在随后弹出的对话框中填入c(3)=c(4)=0。可得如下结果。其中F=537.5。例11.1：建立中国国债发行额模型（第3版256页）（2）在非约束模型输出结果窗口中点击View，选CoefficientTests,RedundantVariables-LikelihoodRatio功能（模型中是否存在多余的不重要解释变量），在随后弹出的对话框中填入GDP，DEF。可得计算结果F=537.5。（3）在约束模型输出结果窗口中点击View，选CoefficientTests,OmittedVariables-LikelihoodRatio功能（模型中是否丢了重要的解释变量），在随后弹出的对话框中填入拟加入的解释变量GDP，DEF。可得结果F=537.5。例11.1：建立中国国债发行额模型（第3版256页）11.4似然比（LR）检验（第3版257页）似然比（LR）检验的基本思路是如果约束条件成立则相应约束模型与非约束模型的极大似然函数值应该是近似相等的。用logL(ˆ,2ˆ)=-2Tlog22ˆ-22ˆ2ˆtu表示由估计非约束模型得到的极大似然函数。其中ˆ和2ˆ分别是对（参数集合），（误差项方差）的极大似然估计。用logL(~,2~)=-2Tlog22~-22~2~tu表示由估计约束模型得到的极大似然函数。其中~和2~分别是对（参数集合）和2的极大似然估计。似然比（LR）统计量在原假设“约束条件成立”条件下LR=-2[logL(~,2~)-logL(ˆ,2ˆ)]m)其中括号内是两个似然函数之比（似然比检验由此而得名），m表示约束条件个数。判别规则是，若LR2(m),则接受零假设，约束条件成立。若LR2(m),则拒绝零假设，约束条件不成立。11.4似然比（LR）检验（第3版258页）例11.2：用LR统计量检验原假设3=4=0。是否成立。估计结果如下；DEBTt=4.31+0.35GDPt+0.99DEFt+0.88REPAYt(0.2)(2.2)(31.5)(17.8)R2=0.9990,DW=2.12,T=22,logL=-115.8888,(1980-2001)得约束模型估计结果如下，DEBTt=-388.40+4.49GDPt(-3.1)(17.2)R2=0.94,DW=0.25,T=22,logL=-161.0583,(1980-2001)计算LR统计量的值，LR=-2[logL(~,2~)-logL(ˆ,2ˆ)]=-2(-161.0583+115.8888)=90.34因为LR=90.342(2)=5.99，所以推翻原假设。结论是不能从模型中删除解释变量DEFt和REPAYt。检验结果与上面的F检验结论相一致。似然比（LR）检验的EViews操作有两种途径。（1）在非约束模型估计结果窗口中点击View，选CoefficientTests,RedundantVariables-LikelihoodRatio功能（模型中是否存在多余的不重要解释变量），在随后弹出的对话框中填入GDP，DEF。可得结果。其中LR（Loglikelihoodratio）=90.34，与上面的计算结果相同。（2）在约束模型估计结果窗口中点击View，选CoefficientTests,OmittedVariables-LikelihoodRatio功能（模型中是否丢了重要的解释变量），在随后弹出的对话框中填入拟加入的解释变量GDP，DEF。可得结果。其中LR（Loglikelihoodratio）=90.34，与上面的计算结果相同。11.4似然比（LR）检验11.5沃尔德（Wald）检验（第3版259页）沃尔德检验的优点是只需估计无约束一个模型。当约束模型的估计很困难时，此方法尤其适用。另外，F和LR检验只适用于检验线性约束条件，而沃尔德检验适用于线性与非线性约束条件的检验。沃尔德检验的原理是测量无约束估计量与约束估计量之间的距离。先举一个简单的例子说明检验原理。比如对如下无约束模型yt=1x1t+2x2t+3x3t+vt检验线性约束条件2=3是否成立。则约束模型表示为yt=1x1t+2(x2t+x3t)+vt其中2也可以用3表示。因为对约束估计量2~和3~来说，必然有2~-3~=0，所以沃尔德检验只需对无约束模型进行估计。如果约束条件成立，则无约束估计量（2ˆ-3ˆ）应该近似为零。如果约束条件不成立，则无约束估计量(2ˆ-3ˆ)应该显著地不为零。关键是要找到一个准则，从而判断什么是显著地不为零。首先需要知道（2ˆ-3ˆ）的抽样分布。依据经典回归的假定条件，（2ˆ-3ˆ）服从均值为（2-3），方差为Var(2ˆ-3ˆ)的正态分布。定义W统计量为，W=)ˆˆ(Var)ˆˆ(3232N(0,1)在约束条件成立条件下，W渐近服从N(0,1)分布。通常Var(2ˆ-3ˆ)是未知的，使用的是Var(2ˆ-3ˆ)的样本估计量。11.5沃尔德（Wald）检验（第3版260页）11.5沃尔德（Wald）检验（第3版260页）下面讨论多个约束条件的情形。假定若干约束条件是以联合检验的形式给出，f()=0，其中f()表示由约束条件组成的列向量。用~表示施加约束条件后对参数集合{1,2,…,k}的估计。若把