高铁梅老师的EVIEWS教学课件第九章 对数极大似然函数0

第9章对数极大似然估计1第九章对数极大似然估计9.1对数极大似然估计的基本原理9.2对数极大似然估计方法用对数极大似然估计来估计一个模型，主要的工作是建立极大似然函数形式，利用EViews可以方便地估计出未知参数。9.1.1一元线性回归模型的极大似然函数举个简单的例子，普通的线性回归模型：),0(~T,2,1,t210uttttNuuxy(9.2.1)这里，yx,是观测序列，而10,是模型的参数。有T个观测值的样本的对数似然函数（观测值密度的对数）可以写成：TtuttuuxyTl1221022)()log)2(log(2),((9.2.2)注意到，我们能将对数似然函数写成每个观测值t的对数似然贡献的和的形式：),(),(1Tttll(9.2.3)这里每个观测值的贡献由下面的式子给出：)log(21log),(210uuttutxyl(9.2.4)第三部分扩展的单方程分析29.2.2AR(1)模型的极大似然函数一阶自回归过程有如下形式，记作AR(1)：tttYcY1(9.2.5)其中t是一个白噪声过程，即t～),0(.d.i.i2N。在此情形下，总体参数向量为),,(2cθ。首先考察样本中第一个观察值ty的概率分布。由于在1时，存在一个满足（9.2.5）的协方差平稳过程，此时，)1()E(1cY)1()var(221Y，所以，第一个观察值的密度函数形如222122211121exp)1(21,,;;11cycyfyfYYθ(9.2.6)①（美）斯蒂格利茨，经济学，p89页。例9.1普通最小二乘方程的极大似然估计我们选择凯恩斯消费函数①作为例子，分析普通回归方程的极大似然估计方法。消费函数的因变量选为城镇消费（cc），而城镇人民收入（ci）作为自变量，样本为从1978年到2000年的年度数据。首先利用最小二乘法，估计了一个普通的回归方程，结果如下：31.938833.0ˆttcicc（63.04）(0.58)2R=0.995对数似然值=-177.02AIC=15.57SC=15.67D.W.=1.48利用前面的公式(9.1.2)，我们可以写出这个方程的极大似然函数，进行极大似然求解之后，我们得到了城镇消费和城镇收入之间的回归方程，得到的结果是：34.938833.0ˆttcicc（44.33）(0.18)对数似然值=-177.02AIC=15.57SC=15.67观察两个方程的系数值发现最小二乘方法和极大似然函数估计的结果几乎没有什么区别，但是由于初值选择的不同，所以产生了统计量的差异。第9章对数极大似然估计3接下来考虑第二个观察值2Y在观察到11yY的条件下的分布。由（9.2.5）212YcY(9.2.7)可以将随机变量1Y视做确定性常数1y。在此情形下，（9.2.7）给出2Y作为常数1yc和随机变量2的和。因此112yYY～21,ycN，22122122exp21;12ycyyyfYYθ。(9.2.8)一般地，121,,,tYYY只通过1tY对tY起作用，第t个观察值以前t-1个观察值为条件的分布为：22121111,,2exp21);(;,,,1212ttttYYtttYYYYycyyyfyyyyfttttθθ(9.2.9)完全样本的似然函数为TtyyfyfyyyfttYYYTTYYYttTT2);(),();,,(1111,,,11111θθθ(9.2.10)其对数似然函数（记作log)(θL）可由（9.2.10）取对数求得：θθθ;log);(log)(log12111ttTtYYYyyfyfLtt(9.2.11)将（9.2.8）和（9.2.9）代入（9.2.10），得到样本量为T的AR(1)过程的对数似然函数：TttttycyTTtcyL2221222212212)log(2)1()2log(2)1(1)1(2)1()1(log21)2log(21)(logθ(9.1.12)第三部分扩展的单方程分析4例9.2AR(1)模型的极大似然估计设Y的数据生成过程为：tttYY185.05.0其中t是一个白噪声过程，即t～),0(.d.i.i2N。AR(1)过程tttYcY1的样本量为T的对数似然函数为(9.1.21)式，总体参数向量为),,(2cθ。利用极大似然估计方法估计的AR(1)模型，可以得到如下的结果：)886.0,84.0,53.0(θtttYY184.053.0(-0.305)(17.22)对数似然值=-163.65AIC=2.78SC=2.859.2.2GARCH（p,q）的极大似然函数标准的GARCH（p,q）模型的形式为：pjjtjqiitittttuuxy12122(9.2.13)要想写出GARCH（p,q）模型的极大似然函数，首先要分析扰动项tu的密度函数。为了方便起见，我们对方程(9.2.13)采用另外一种方法来表示，它对tu的序列相关施以更强的假定。假定；tttvhu(9.2.14)这里，}{tv是一个i.i.d.序列，其均值为0，方差为1：0)E(tv1)E(2tv如果th的变化服从第9章对数极大似然估计52121itpijitqiituh(9.2.15)那么(9.2.14)意味着，,,E212tttuuu2121itpiiitqiiu(9.2.16)因此，如果tu是由(9.2.14)和(9.2.15)产生的话，那么tu服从GARCH（p,q）过程，并且线性投影(9.2.16)是其条件期望。如果tv～1,0.d.i.iN，ty的条件分布为正态分布，其均值为tx，方差为th，则其密度函数为:tttttthxyhyf2)(exp212Y(9.2.17)式中Yt表示t-1时刻前的信息集合，itpiiititqiithxyh121)((9.2.18)将欲估计的未知参数列成一个向量：),,,,,,,(11pqθ则样本对数似然函数是TttttTtthxyhTL121)(21)log(21)2log(2)(logθ(9.2.19)但是，很多金融时间序列的无条件分布不同于正态分布，它们具有更宽的尾部，也就是说，即使(9.2.14)中的tv为正态分布，tu的无条件分布也是一个非正态分布。大量事实表明，tu的条件分布也常常是非正态的。对于非正态分布可以使用原来的基本方法。例如，博勒斯莱文（1987）认为(9.2.14)中的tv可以取自一个自由度为k的t分布，k可视作由极大似然函数估计的参数。如果tu是一具有k个自由度的t分布，当2k时，其密度函数为①2)1(2212121)2(12)2(]2)1([)(kttttkhuhkkkuf(9.2.20)①参见（美）詹姆斯D.汉密尔顿著，刘明志译，中国社会科学出版社，1999年12月，p419-p423页。式中)(代表函数。第三部分扩展的单方程分析6该密度函数可用来取代（9.2.17）中的正态设定，未知参数向量变为：),,,,,,,,(11kpqθ这样，样本对数似然函数就变成：TttttTttTtttkhxykhkkkTyf12121211)2()(1log21log212)2(2)1(log);(logθY(9.2.21)这样对数似然函数(9.2.21)在2k的约束下关于,k数值最大化。例9.3GARCH(p,q)模型的极大似然估计根据方程（9.2.13）中描述的GARCH(p,q)模型和(9.2.21)式的极大似然函数，利用极大似然估计方法重新估计的股票价格指数的GARCH(1,1)模型，可以得到未知参数向量如下的结果：),,,,,,,,(11kpqθ均值方程：)log(000049.1)ˆlog(1ttspps（22476.21）方差方程：212152ˆ770.0ˆ195.01025.1ˆtttu（3.30）（4.79）（19.93）对数似然值=3056AIC=-5.86SC=-5.83