22第08章 对数极大似然估计

1EViews包含了一些常用方法，如最小二乘法、非线性最小二乘法、加权最小二乘法、TSLS、GMM、ARIMA、ARCH、GARCH等方法，这些方法可以解决可能遇到的大多数估计问题。但是，我们在研究中也可能会碰到一些不在上述之列的特殊的模型，这些模型可能是现存方法的一个扩展，也可能是一类全新的问题。为了能解决这些特殊的问题，EViews提供了对数极大似然估计对象这一工具来估计各种不同类型的模型。对数极大似然估计对象提供了一个一般的，开放的工具，可以通过这个工具极大化相关参数的似然函数对一大类模型进行估计。第八章对数极大似然估计2使用对数极大似然估计对象估计时，我们用EViews的序列生成器，将样本中各个观测值的对数似然贡献描述为一个未知参数的函数。可以给出似然函数中一个或多个参数的解析微分，也可以让EViews自动计算数值微分。EViews将寻找使得指定的似然函数最大化的参数值，并给出这些参数估计的估计标准差。在本章，我们将详细论述对数极大似然估计对象，说明其一般特征。并给出了一些可以使用该方法的具体的例子。3§8.1对数极大似然估计的基本原理§8.1.1极大似然估计的基本原理设总体的概率密度函数为P，其类型是已知的，但含有未知参数（向量）。我们的目的就是依据从该总体抽得的随机样本y1,y2,…,yT，寻求对的估计。观测值y1,y2,…,yT的联合密度函数被给定为（8.1.1）其中：y=(y1,y2,…,yT)。将这一联合密度函数视为参数的函数，称为样本的似然函数（likelihoodfunction）。TttyPL1)();(ψy4极大似然原理就是寻求参数的估计值，使得所给样本值的概率密度（即似然函数）的值在这个参数值之下，达到最大。在当前的情形下，就是寻求的估计值，使得似然函数L(y;)相对于给定的观测值y1,y2,…,yT而言达到最大值，就被称为极大似然估计量。在L(y;)关于i（i=1,2,…,n，n是未知参数的个数）的偏导数存在时，要使L(y;)取最大值，必须满足,i=1,2,…,n（8.1.2）由上式可解得n1向量的极大似然估计值，而式(8.1.2)也被称为似然函数。ψˆψˆψˆ0);(ψyLi5因为L(y;)与ln[L(y;))]在同一点处取极值，所以也可以由,i=1,2,…,n（8.1.3）求得，因为对数可将乘积变成求和，所以，式(8.1.3)往往比直接使用式(8.1.2)来得方便。式(8.1.3)也被称为对数似然函数。0);(lnψyLi6考虑多元线性回归模型的一般形式,t=1,2,…,T(8.1.4)其中k是解释变量个数，T是观测值个数，随机扰动项～，那么yt服从如下的正态分布：～其中(8.1.5)tktktttuxxxy22110tu),0(2Nty),(2tNktktttxxx221107y的随机抽取的T个样本观测值的联合概率函数为（8.1.6）这就是变量y的似然函数。对似然函数求极大值和对数似然函数求极大值是等价的，式(8.1.6)的对数似然函数形式为：（8.1.7）TtttyTTTttTeyPyyyPL122)(2121212π)2(1)(),,,(),(βTtttTtttyyTL122212222)(21)π2ln(21)(21)π2ln(2),(lnβ8注意，可以将对数似然函数写成t时刻所有观测值的对数似然贡献和的形式，（8.1.8）这里对数似然的单个贡献（用小写字母表示）由下面的式子给出：（8.1.9）),(),(ln212ββTttlL2222)(21)π2ln(21),(tttylβ9式（8.1.7）也可用标准正态分布的密度函数表示（8.1.10）式中标准正态分布的对数似然函数为（8.1.11）这里对数似然函数每个观测值的贡献式(8.1.9)又可以由下面的式子给出：（8.1.12）TtttTtyTL122122)(21)ln(21π)2ln(2),(lnβTttty12)ln(21)(lnTtttzTz1221π)2ln(2)(lntttyz)ln(21ln),(2tttylβ10§8.1.2EViews极大似然对象概述用对数极大似然估计来估计一个模型，主要的工作是建立用来求解似然函数的说明文本。用EViews指定对数极大似然函数的说明是很容易的，因为似然函数的说明只是一系列对序列的赋值语句，这些赋值语句在极大化的过程中被反复的计算。我们所要做的只是写下一组语句，在计算时，这些语句将描述一个包含每个观测值对似然函数贡献的序列。11注意到，我们能将对数似然函数写成所有观测值t的对数似然贡献和的形式，这里单个贡献由下面的式子给出：以只含一个解释变量的一元线性回归方程为例,t=1,2,…,T),(),(ln212TttlL2222)(21)2ln(21),(tttyltttuxy110),0(~2Nut12假定知道模型参数的真实值，并且想用EViews产生一个包含每个观测值的贡献的序列。可以将已知的参数赋值给系数向量的c(1)到c(3)元素，然后把下面的赋值语句作为EViews的命令或程序来执行。Seriesres=y-c(1)-c(2)*xSeriesvar=c(3)SerieslogL1=-log(2*3.14159*var)/2-(res^2/var)/2前面两行语句描述了用来存储计算时的中间结果的序列。第一个语句创建了残差序列：res，而第二个语句创建了方差序列：var。而序列logL1包含了每个观测值的对数似然贡献的集合。13EViews中的标准正态分布的对数似然函数为，将对数似然函数写成所有观测值t的对数似然贡献的和的形式：这里每个观测值的贡献由下面的式子给出：),(),(log1TttlL)log(21log),(2321ttttwxylTtttzTz1221)2log(2)(logtttyz14要创建一个似然对象，选择Objects/NewObject.../LogL或者在命令窗口输入“logL”。似然窗口将打开一个空白说明视图。说明视图是一个文本窗口，在这个窗口里可以输入描述统计模型的说明语句，还可以设置控制估计程序各个方面的选项。1．似然的定义正如上节中所描述的那样，似然说明的主线是一系列赋值语句，在计算时，这些赋值语句将产生一个包含样本中每个观测值的对数似然贡献的序列。赋值语句的多少可以由自己决定。§8.1.3似然说明15每个似然说明都必须包含一个控制语句，该语句命名了保存似然贡献的序列。语句的格式为：@logLseries_name这里@logL是关键字，series_name是保存似然贡献的序列的名字，可以写在似然说明的任何位置。如果想在估计完成后删除说明中的一个或多个序列，可以使用@temp语句：@tempseries_name1sereis_name2...这个语句告诉EViews在对说明的计算完成后，删除列表中的序列。162．参数名在上面的例子中，我们使用了系数c(1)到c(5)作为未知参数的名称。更一般的，出现在说明中一个已命名的系数向量中的每一个元素都将被视为待估参数。例如创建2个命名的系数向量：coef(2)betacoef(1)sigma于是可以写出下面的似然说明：@logLlogL1res=cs-beta(1)-beta(2)*incvar=sigma(1)logl1=log(@dnorm(res/@sqrt(var)))-log(var)/217由于说明中的已命名的系数向量的所有元素都将被视为待估参数，必须确定所有的系数确实影响了一个或多个似然贡献的值。如果一个参数对似然没有影响，那么在试图进行参数估计时，将遇到一个奇异错误。应该注意到除了系数元素外所有的对象在估计过程中都将被视为固定的，不可改变的。例如，假定omega是工作文件中一个已命名的标量(scalaromega)，如果将子表达式var定义如下:var=omegaEViews将不会估计omega。omega的值将被固定在估计的开始值上。183．估计的顺序logL说明包含了一个或多个能够产生包含似然贡献的序列的赋值语句。在执行这些赋值语句的时候，EViews总是从顶部到底部执行，所以后面计算要用到的表达式应放在前面。EViews对整个样本重复地计算每个表达式。EViews对模型进行重复计算时采用方程顺序和样本观测值顺序两种不同方式，这样就必须指定采用那种方式，即观测值和方程的执行顺序。19（1）观测值顺序（@byobs）默认情形下，EViews用观测值顺序来计算模型，此种方式是先用第一个观测值来计算所有的赋值语句，接下来是用第二个观测值来计算所有的赋值语句，如此往复，直到估计样本中所有观测值都使用过。这是用观测值顺序来计算递归模型的正确顺序，递归模型中每一个观测值的似然贡献依赖于前面的观测值，例如AR模型或ARCH模型。20（2）方程顺序（@byeqn）可以改变计算的顺序，这样EViews就可以用方程顺序来计算模型，先用所有的观测值来计算第一个赋值语句，然后用所有的观测值计算第二个赋值语句，如此往复，对说明中每一个赋值语句都用同样方式进行计算。这是用中间序列的总量统计作为后面计算的输入的模型的正确顺序。可以通过在说明中加入一条语句来声明所选择的计算方法。要用方程顺序来计算，仅加一行关键字“@byeqn”。要用样本顺序来计算，可以用关键字“@byobs”。如果没有给出关键字，那么系统默认为“@byobs”。21例8.1一元线性回归方程的极大似然估计以消费函数为例，分析普通回归方程的极大似然估计方法。样本区间为1978～2002年。消费函数的方程形式(8.2.5)其中：ut服从标准正态分布，cs=CS/P，inc=(1-t)GDP/P，GDP是当年价格的国内生产总值，CS代表当年价格的居民消费值，P代表1978年为1的价格指数，t=TAX/GDP代表宏观税率，TAX是税收总额，代表自发消费，代表边际消费倾向，则参数向量为=(,,2)，我们可以写出这个方程的对数极大似然函数式中zt=(cst--×inct)/u(8.2.6)tttuinccs25122512222/ln)(ln2)(lnπ)2ln(225)(lntuttuttuzinccsLψ22利用极大似然方法求解，作为@byobs语句的一个例子，考虑下面的说明：EViews用观测值顺序来计算模型，此种方式是先用第一个观测值来计算所有的赋值语句，接下来是用第二个观测值来计算所有的赋值语句，如此往复，直到估计样本中所有观测值都使用过。本例将方差作为未知参数c(3)，一起求解。23进行极大似然求解之后，得到和的估计值:c(3)是方差的估计结果。这个结果与第3章的例3.1的结果相同，说明对于该线性方程，利用极大似然估计得到的结果与利用普通最小二乘估计得到的结果完全相同。24例8.4具有异方差的一元线性回归模型的极大似然估计根据第4章例4.1，各省人均家庭交通及通讯支出(cum)和可支配收入(in)的关系，样本个数为30，考虑如下具有异方差性的方程：(8.2.40)为消除方程中的异方差，利用加权最小二乘法求解，设êt=cumt–0–1–int，可以写出式(8.2.40)的对数极大似然函数(8.2.41)它的未知参数向量为=(0,1)。tttuincum1030122210ˆ12ˆ1ˆ1ˆ1ˆ1ln30π)2ln(230)(