广义最小二乘法(GLS)与异方差

1参数非线性当模型为参数非线性形式时，需要采用非线性估计技术。非线性模型的一般形式为：——Yi=f(Xi,b)+ei——式中f(.)为一个可微分的非线性函数，b为（K+1）×1未知参数向量，X为n×(K+1）解释变量矩阵，e为服从某种形式统计分布的误差项（通常用正态分布）。此时我们无法将待估计参数表示为由已知的X和Y表示的线性函数，这种情况被称作参数非线性。2关于C-D生产函数的残差加性项形式：121212121220001200~0,,,,,,,,,,QLKeeNfXLKfXfXfXfXLKLnLLKLnKLKbbbbbbbbbbbbbbbbbbbbbbb3NLS估计技术非线性最小二乘法（NLS）-——以残差平方和最小为标准获得参数估计——通常基于误差项满足正态分布的假定——一般计量经济软件有标准的指令和算法4NLS估计技术——用最小二乘法估计非线性回归方程的原理与估计线性回归方程相同，即求解使残差平方和最小的参数；——对于线性函数，模型参数可以通过求解由一阶条件构成的方程组估计得出；——对于非线性方程，我们常常无法确保得到估计参数的解析解，但通常能够利用数值逼近方法得到方程组的近似解。此时估计参数可能不是唯一的，并且存在收敛困难。5求解非线性方程组的常用方法：——线性化迭代求解法(Iterativelinearizationmethod)，即从一组参数的初始值开始将非线性函数线性化，然后求解线性方程组并得到新的估计值；重复上述步骤直到估计结果达到收敛标准或达到最大迭代次数时为止。NLS估计技术6——注意：NLS方法并不能够保证总是收敛到最优解，可能出现的情况有：收敛速度缓慢、收敛到局部最优解、估计系数出现发散情况——收敛到错误结果时，R2可能出现负值。——在应用工作中，当遇到上述情况时，一种做法是改变初始值，然后重新进行迭代求解过程。NLS估计技术Chapter6广义最小二乘法(GLS)与异方差(Heteroskedasticity)主要内容一、GLS法原理二、异方差的来源及后果三、异方差的检验四、消除异方差和估计模型五、EViews的应用六、案例一、广义最小二乘法（GLS）1、模型：Y=Xβ+u)cov(2u2212221211221nnnnnuVarβ的OLSE特性：线性性、无偏性、方差最小不成立。2、GLS原理Y=Xβ+uVar(u)=σu2Ω=σu2PP'（P为非奇异阵）以P-1左乘原模型：P-1Y=P-1Xβ+P-1u即：Y*=X*β+u*则：Var(u*)=Var(P-1u)=E(P-1uu'P-1')=σu2I3、GLSE1）=（X'P-1'P-1X）-1X'P-1'P-1Y=（X'Ω-1X）-1X'Ω-1Y若Ω=I，则=b2）的统计特性线性性、无偏性、最小方差性112)(1)1(1111)1()~)(~()~(XXXXXuuXXXEbbEbVarubbb~b~4、的估计：二、异方差1、含义即：在解释变量取不同值时方差不同，异方差是X的函数。可通过散点图观察。2、异方差的来源——主要存在于横断面资料中1）被解释变量的测量误差随时间而变化；2）某些被省略的解释变量进入u中；3）模型的数学形式错误；4）分组数据中；5）人们的经济行为。2u1**2*kneesiu1,2,...ni)()(2iuiXfuVar3、异方差的后果：1）参数估计量的方差变大；2）t检验无法进行（无法求得）；3）降低预测精度。三、异方差的检验1、图示检验法：解释变量与e的散点图。2、戈里瑟（Glejser)检验：a.YOLSX1,X2,……Xk,得序列e。b.建立方程寻找导致异方差的X：c.用WLS法消除。2u)(10jXfe3、怀特（White）检验a.建立模型例如：b.检验统计量：n为样本容量，R2为可决系数，m即LM统计量(朗格拉日乘子统计量），近似服从自由度为k(解释变量的个数)的分布。c.判断：在Eviews的模型估计结果输出窗口中，选View/ResidualTest/WhiteHeteroskedasticity215224213221102XXXXXXe2nRm24、戈德菲尔特—夸特（Goldfield-quandt）检验(集团法)a.将X顺序排列，并保持与Y的对应关系；b.将数据分为两组(子样本)，中间剔除c(n/3~n/4)；c.建立两个子方程，得、和、；d.检验判断：21s22s2221122210::HH21e22e~2221eeF)22,22(cncnF无异方差。，接受，有异方差；拒绝H00FFHFF五、模型估计—GLS1、对分组资料情况，已知)m,...2,1,i(...22110iikkiiiuXXXYbbbbmmkmmkkmuuuXXXXXXXXXYYY21k1021222211121121111bbbm)...,2,1,(i11injijiiYnYm)...,2,1,(i1111injijiiXnXm)...,2,1,(i1122injijiiXnXm)...,2,1,(i11injijkiikXnX0)]...(1[)(21iiniiiiuuunEuE0)(),(jijiuuEuuCov221)...(1)(iiniiiiuuunEuVar)...(12222uuuin221uiinniun2111)(2212umunnnuVarmmnnnnnnPPP211-21P111mmmuuuXXXYYYuXY2110212110111bbbb给模型左乘1P222211102221112211.)(uiuiiimmmmmmmnnnuVarnununuXnnXnnXnnnYnYnYbb2、未知，令2)(iXXfnnuuXXXpXXuVar111ppX)(2112222122得左乘,Y101uXPbbnn221110n212211xuxuxu1x11x11x1XYbbnnXYXY22i22X1)(uuiiiXXuVar六、案例——中国农村居民人均消费函数中国农村居民人均消费支出主要由人均纯收入来决定。农村人均纯收入包括：(1)从事农业经营的收入；(2)从事其他产业的经营性收入；(3)工资性收入；(4)财产收入；(4)转移支付收入。考察从事农业经营的收入(X1)和其他收入(X2)对中国农村居民消费支出(Y)增长的影响:表中国2001年各地区农村居民家庭人均纯收入与消费支出相关数据（单位：元）地区人均消费支出Y从事农业经营的收入1X其他收入2X地区人均消费支出Y从事农业经营的收入1X其他收入2X北京3552.1579.14446.4湖北2703.361242.92526.9天津2050.91314.62633.1湖南1550.621068.8875.6河北1429.8928.81674.8广东1357.431386.7839.8山西1221.6609.81346.2广西1475.16883.21088.0内蒙古1554.61492.8480.5海南1497.52919.31067.7辽宁1786.31254.31303.6重庆1098.39764.0647.8吉林1661.71634.6547.6四川1336.25889.4644.3黑龙江1604.51684.1596.2贵州1123.71589.6814.4上海4753.2652.55218.4云南1331.03614.8876.0江苏2374.71177.62607.2西藏1127.37621.6887.0浙江3479.2985.83596.6陕西1330.45803.8753.5安徽1412.41013.11006.9甘肃1388.79859.6963.4福建2503.11053.02327.7青海1350.231300.1410.3江西1720.01027.81203.8宁夏2703.361242.92526.9山东1905.01293.01511.6新疆1550.621068.8875.6河南1375.61083.81014.1普通最小二乘法的估计结果：21ln5084.0ln3166.0655.1ˆlnXXY(1.87)(3.02)（10.04）2R=0.78312R=0.7676DW=1.89F=50.53RSS=0.8232异方差检验（1）图示法进一步的统计检验(2)G-Q检验将原始数据按X2排成升序，去掉中间的7个数据，得两个容量为12的子样本。对两个子样本分别作OLS回归，求各自的残差平方和和：21e22e子样本1：21ln119.0ln343.0061.4ˆlnXXY(3.18)(4.13)(0.94)R2=0.7068，RSS1=0.0648子样本2：21ln776.0ln138.0791.0ˆlnXXY(0.43)(0.73)(6.53)R2=0.8339，RSS2=0.2729计算F统计量：F=/=0.2792/0.0648=4.31查表：给定=5%，查得临界值F0.05(9,9)=2.97判断：FF0.05(9,9)否定两组子样方差相同的假设，从而该总体随机项存在递增异方差性。22e21e（3）怀特检验作辅助回归:（-0.04(0.10)(0.21)(-0.12)(1.47)21lnln043.0XX(-1.11)R2=0.4638似乎没有哪个参数的t检验是显著的。但n*R2=31×0.4638=14.38=5%下，临界值20.05(5)=11.07，拒绝同方差性。去掉交叉项后的辅助回归结果：(1.36)(-0.64)(0.64)(-2.76)(2.90)R2=0.4374lnX2、(lnX2)2的参数的t检验是显著的，且：m=nR2=310.4374=13.56=5%显著性水平下，临界值20.05(4)=9.49，拒绝同方差的原假设。EViews中，在回归结果输出窗口中点击：View/ResidualTests/WhiteHeteroskedasticity，然后查看Obs*R的伴随概率P值，如果大于显著性水平就是同方差的，反之是有异方差的。有交叉项无交叉项原模型的加权最小二乘法回归对原模型进行OLS估计，得到随机误差项的近似估计量e，以此构成随机干扰项的标准差的估计量,即Var(ui)≈ei2；再以1/|e|为权重进行WLS估计，得：21ln527.0ln319.0497.1ˆlnXXY(5.12)(5.94)（28.94）2R=0.99992R=0.9999DW=2.49F=924432RSS=0.0706各项统计检验指标全面改善