第8讲-异方差性

第八讲异方差性Heteroskedasticity一、异方差性对于OLS估计的影响二、稳健性检验三、对是否存在异方差性的检验四、加权最小二乘估计1.异方差性2.异方差性对于OLS估计的影响3.如何解决可能存在的异方差性？一、异方差性对于OLS估计的影响异方差性回忆：经典线性模型（CLM）的假定)0(6.),,|(5.0),,|(4.3.2.1.2211110,N~uuMLRXXuVarMLRXXuEMLRMLRMLRMLRuXXYkkkk且独立于所有解释变量，正态性：同方差性：零条件均值：全的线性关系且自变量之间不存在完异个解释变量具有一定变不存在完全共线性；每的从总体中随机抽样得到样本的随机性：样本是的型对于参数而言是线性参数的线性性：回归模对于总体回归函数异方差性o同方差性（homoscedasticity）：误差项的条件方差相同o异方差性（heteroscedasticity）：误差项的条件方差不相同2102102210)|()|()|()|()|()|()|()|(iiiiiiiiiiiiiiiiiiiiXuVarXuXVarXYVarXuVarXuXVarXYVarXuVarXuVaruXY异方差性：同方差性：也即：异方差性：同方差性：对于异方差性同方差性XY概率密度X：受教育年限Y：工资异方差性异方差性XY概率密度X：受教育年限Y：工资异方差性异方差性XY概率密度X：时间Y：打字正确率异方差性对OLS估计的影响1)回归系数的OLS估计量仍然是无偏的、一致的，并且不影响R2和调整的R22)回归标准差的估计不再是无偏的，从而回归系数OLS估计量的方差估计不再是无偏的，OLS估计量不再是有效的和渐近有效的3)t统计量不服从t分布，F统计量也不服从F分布，从而无法进行假设检验和区间估计，也无法进行区间预测如何解决可能存在的异方差性？两种方法o其一，异方差性不影响OLS估计量的无偏性和一致性，只影响OLS估计量的方差估计，因此，如果能找到一种方法（不同于OLS估计）正确地估计出OLS估计量的方差，那么同样可以进行假设检验。这种方法称为稳健性检验o其二，首先检验是否存在异方差，如果不存在，可以使用OLS估计；如果存在异方差，使用另外一种估计方法（即加权最小二乘估计，WLS）1.稳健性t检验2.稳健性F检验3.稳健性LM检验二、稳健性检验稳健性t检验o异方差性不影响OLS估计量的无偏性和一致性，只是影响OLS估计量的方差估计，从而影响t检验和F检验。因此，如果能找到一种方法正确地估计出OLS估计量的方差，那么同样可以进行t检验和F检验o对于大样本数据，在假定MLR.1-4下，可以通过一定的方法得到OLS估计量的方差的正确估计量（参见课本p253，8.4式），并进而得到OLS估计量的标准误。通过这种方法得到的标准误称为异方差-稳健性标准误（heteroskedasticity-robuststandarderror），或简称稳健性标准误（robuststandarderror）。稳健性t检验o一旦得到了稳健性标准误，就可以在此基础上构造稳健性t统计量（robusttstatistics），进而进行稳健性t检验。稳健性标准误假设值估计值统计量稳健性OLSt稳健性t检验例题8_1：工资方程（课本p253，例8.1）lwageCoef.SEtrobustSEt(robust)married_male0.21270.05543.840.05713.72married_female-0.19830.0578-3.430.0588-3.37single_female-0.11040.0557-1.980.0571-1.93educ0.07890.006711.790.007410.64exper0.02680.00525.110.00515.22expersq-0.00050.0001-4.850.0001-5.03tenure0.02910.00684.300.00694.19tenursq-0.00050.0002-2.310.0002-2.19_cons0.32140.10003.210.10952.94稳健性F检验o也可以构造异方差-稳健性F统计量（heteroskedasticity-robustFstatistic）或异方差-稳健性瓦尔德统计量（heteroskedasticity-robustWaldstatistic），从而进行异方差-稳健性F检验（对多个线性假设的检验）o例题8_2：学习成绩的决定（课本p255，例8.2）稳健性LM检验o与异方性-稳健性F检验相同，针对多个线性假设的检验还可采用异方差-稳健性拉格朗日乘子检验（heteroskedasticity-robustLagrangeMultipliertest），简称稳健性LM检验。o本课程不要求同学掌握稳健性LM检验，有兴趣的同学请参看课本p255-2571.为什么要对异方差性进行检验？2.布罗施-帕甘检验（Breusch-Pagantest）3.怀特检验（Whitetest）三、对是否存在异方差性的检验为什么要对异方差性进行检验？o不管模型是否满足同方差假定，估计稳健性标准误和进行稳健性检验是更为稳妥的方法，因此这一方法越来越普遍。那么，为什么还要对是否存在异方差性进行检验？a)对于小样本数据，稳健性t统计量并不十分接近t分布，应使用通常的t检验。此时，应首先对是否存在异方差性进行检验。如果不存在异方差性，就可以使用通常的t检验；如果存在异方差性，就应使用不同于OLS的估计方法。b)只要存在异方差，OLS估计量就不是最优线性无偏估计量。因此最好使用比OLS更好的估计方法为什么要对异方差性进行检验？o出现异方差性的一个常见原因，是误差项的条件方差与某些自变量相关，下面的两种检验方法都是看误差项的条件方差是否与某些自变量相关布罗施-帕甘检验（Breusch-Pagantest）基本思想假定就不成立相关，那么同方差与一个或多个解释变量因此，如果：等价于：从而同方差假定。所以：，那么满足如果总体回归函数22212021012211211110)()(),,()()],,([)(),,(0),,(41.uuE,X,|XuEHXX|uVarH,X,|XuEXX|uE,X,|XuEXX|uVarXX|uEMLRuXXYkkkkkkkkk布罗施-帕甘检验（Breusch-Pagantest）布罗施-帕甘检验（BPtest）即存在异方差性说明可以拒绝原假设，显著的，统计量是统计量或，如果，，对于量统计量，或者构造统计）的得到模型（回归，得到的作为因变量做以下模型用方法估计）用根据模型（假定：）（对于MLFHdknRLMFcvXXuROLSubuOLSavXXXX|uEXX|uVaruXXYkukkukkkkkk00:.)(~2.)2(.1.),,(),,(,110221102222110121110布罗施-帕甘检验（Breusch-Pagantest）例题8_3：住房价格（课本p259，例8.4）为不存在异方差性不能拒绝原假设，即认为存在异方差性可以拒绝原假设，即认614)3(2240480088048002450411)843(99.5)3(09.141601.088,1601.000020345)843(21023210205.020.χ..,LM.R.,p.,FubdrmsβlsqrftβllotsizeββlpriceLMR.,p.,Fubdrmssqrftlotsizeprice.uu321怀特检验（Whitetest）怀特检验（Whitetest）：一般检验o与BP检验相比，怀特检验进一步考虑误差项方差与每个自变量的平方及每两个自变量的交互项的关系。vXXXXXXXXXX|uEXX|uVaruXXYkkkkkkkkkkkkkk1232112222111101211102),,(),,(),1(假定：对于怀特检验（Whitetest）怀特检验（Whitetest）：一般检验即存在异方差性说明可以拒绝原假设，显著的，统计量是统计量或，如果，，对于量统计量，或者构造统计）的得到模型（回归，得到的作为因变量做以下模型用方法估计出用根据模型MLFHkknRLMFvXXXXXXXXuROLSuuOLSkkukkkkkkkkkku00:.4)23(~2.3)2(.2)1(.12310222123211222211110222222怀特检验（Whitetest）怀特检验（Whitetest）：特殊检验o为了节省自由度，有时采用如下形式的怀特特殊检验即存在异方差性说明可以拒绝原假设，显著的，统计量是统计量或如果对于量统计量，或者构造统计得到上述回归的回归，得到的作为因变量做以下模型用和、）的方法估计出方程（根据模型用假定：对于MLF，，ααHdnRLMFcvYYuROLSubYYuOLSavYYuXXYuukk00:.)2(~.ˆˆ.ˆˆ1.ˆˆ),1(2102222102222222102110怀特检验（Whitetest）例题8_4：住房价格（课本p261，例8.5）性，即认为不存在异方差所以，不能拒绝原假设特殊检验一般检验：614)2(4530392018300731)852(6814)9(5591085040530051)789(210221023210.χ.,LM.R.,p.,F:.χ.,LM.R.,p.,Fubdrmsβlsqrftβllotsizeββlprice.u.u1.加权最小二乘估计：异方差形式已知2.加权最小二乘估计：异方差形式未知四、加权最小二乘估计加权最小二乘估计：异方差形式已知如果发现存在异方差，可以采取两种方式解决：a.对于大样本数据，可使用稳健性标准误和稳健性检验b.探究异方差的形式，通过适当的变换得到最优线性无偏估计量加权最小二乘回归：异方差形式已知加权最小二乘估计估计以应用）满足同方差假定，可从而模型（此时，即：那么可以做如下变换：若已知：对于OLSσhhσhuEhuEuEuVaruXXXYhuhXhXhhYhσ,X,Xhσσ,X,u|XVaruXXYiiiiiiiiikikiiiiiikikiiiiiikiiikiiikikii2)X|()X|)(()X|()X|()2()()()1()()()1(22222*****11*00*11021221110加权最小二乘估计：异方差形式已知加权最小二乘估计）称为加权最小二乘法（和，故而化经过加权的残差平方这一方法实际上是最小对于：对于WLSsquaresleastweighteduwuhXβXββYhhXhXhhYuOLShuhXβhXβhβhYXXYuOLSuXβXββYiiiikikiiiikikiiiii*iiiikikiiiiikikiiiikikii,1)(1)]()()1([min:)2()()()1()(min)1(2221102110211021102110加权最小二乘估计：异方差形式已知加权最小二乘估计例题8_5：家庭储蓄方程（课本p265，例8.6）o加权最小二乘估计属于广义最小二乘估计（GeneralizedLeastSquare,GLS）的一种归的模型