计量学-ARMA模型的自相关函数(1)

1（三）ARMA模型的自相关函数由ARMA(p,q)的自协方差公式可以看出，只有的q个自相关的值同时依赖于和；当时，具有与AR(p)模型相同的自相关函数差分公式或者qkq,,1p,,1q,,1qkpkpkkk22110)(kL2若，自相关函数是指数或正弦波衰减的，具体由多项式和初始值决定。若，就会有个初始值不遵从一般的衰减变化形式。ARMA(p,q)的自相关函数是步拖尾的。这一事实在识别ARMA模型时也非常有用。pq0pq,2,1,kk)(L0pq1pqpq,,,103ARMA(1,1)过程1111ttttYY11211111121))(1(1112kkk，4二、偏自相关函数（partialautocorrelationfunction，PACF）时间序列过程的偏自相关函数就是时间序列在两个时间随机变量之间，排除了其间各个时间随机变量影响的相关系数。5（一）AR(p)模型的偏自相关函数AR(p)的模型偏自相关函数定义为计算方法把对回归，得到回归方程其中最后一项的回归系数就是要求的偏自相关系数。tptpttYYY1111(,,,)kkttkttkcorrYYYYtYkttYY,,1ktkktktYYY11ˆkk6根据线性回归法计算偏自相关函数，运用最小二乘法进行参数估计，得到正规方程组该方程组也可以认为是利用的协方差和自相关函数导出。尤勒——沃克方程如下kjkkjkj11kkkkkkkkk21212121111117分别求解，得到偏自相关系数：111，1212212221111111，111111211213122111338由于AR(p)模型意味着与以后的滞后项不相关，因此大于p阶的偏自相关系数必然都等于0。这意味着AR(p)模型的偏自相关函数有在处截尾的特征。这也是识别自回归模型及其自回归阶数的重要依据。tYptYpk9（二）MA(q)和ARMA模型的偏自相关函数MA(1)的偏自相关函数该函数，且被衰减指数控制，因此具有拖尾性。可逆的MA()过程等价于无限阶的AR过程，因此它们的偏自相关函数会无限延伸，被指数衰减和（或）正弦波衰减所控制。总之都具有拖尾的特征。)1()1()1(212121kkkkkk110自回归移动平均混合过程ARMA(p,q)，是由自回归过程和移动平均过程两部分组成，因此它们的偏自相关函数也是无限延伸的，其特征就像纯移动平均过程的偏自相关函数。混合过程的偏自相关函数被复合的衰减指数和（或）衰减正弦波所控制。衰减特性主要由移动平均过程的阶数和具体参数决定。11三、模型识别方法1、基本ARMA模型自相关和偏自相关函数的基本特征（1）AR(p)模型的自相关函数是拖尾的，即会按指数衰减，或正弦振荡衰减，偏自相关函数是截尾的，截尾处为自回归阶数p；（2）MA(q)模型的自相关函数是截尾的，截尾处对应移动平均阶数q。偏自相关函数则是拖尾的；12（3）ARMA(p,q)模型的自相关函数和偏自相关函数都是拖尾的，自相关函数是步拖尾，偏自相关函数是步拖尾。pqqp132、样本自相关函数和样本偏自相关函数假设有一组观测样本，一般认为近似自相关函数最好的样本自相关函数为：其中nYY,,10ˆˆˆkk210()ˆ,nttYYnnYYYYntkttk1))((ˆ14计算样本偏自相关函数（SPACF）的方法：直接把样本自相关值代入尤勒——沃克方程进行计算，或者用公式回归的方法计算。ktkktktYYY11ˆ15第三节自回归移动平均模型的估计ARMA模型的参数估计常用的方法是利用均值（期望）、自相关函数，包括Yule-Walker方程的矩估计方法。这些矩估计方法是一致估计，但未必有效。充分有效的估计方法是最大似然法，但最大似然法比较复杂。在样本容量较大时矩估计与最大似然估计是接近的。16一、移动平均模型参数估计MA(q)模型的自协方差函数为自相关函数为qkqkkqkqkkqk当当当01)(0)1(1122212qkqkqkqqkkkk0,,1122111017首先利用样本数据计算出的估计值把这q+1个样本自协方差代自协方差函数中的，或者根据这些再计算出的估计代入自相关函数，并用和分别代自协方差或自相关函数中的待定参数和，可得到q+1个方程的联立方程组。knYYYYntkttk1))((ˆkˆkkkˆqˆ,ˆ12ˆq,1218如果可以从这个方程组解出和，就是我们要求的参数估计值。也可以先解出真实参数与自协方差、自相关的关系，再代入样本估计值。因为是时间序列过程的二阶矩，上述估计量是通过q+1个样本矩方程求出的，所以是矩估计量，具有一致估计的性质。qˆ,ˆ12ˆk19q=1时的参数估计方法一：直接利用一阶自相关函数进行参数估计112121111102111114220由于可逆性条件要求的绝对值小于1，因此只有满足要求。把样本自相关系数作为的估计代入上式，就可以解得模型参数的估计量1211241111ˆ11211ˆ2ˆ411ˆ21方法二：利用自协方差函数进行估计MA(1)模型有求解上述方程组，并利用，可解得1212120)1(011/2111211212011422114114222代入样本自相关和自协方差得模型参数和模型误差项方差的估计量由于上述矩估计的方程组是非线性的，因此只有当q较小（q=1、2、3）时，直接进行解析求解才可行，当更大时解析求解越来越困难，一般应使用迭代方法求近似解。1221211021ˆ114ˆ2ˆˆˆ,2ˆ11423最简单的迭代方法把MA(q)模型的自协方差公式代入估计量，并变换为22102ˆˆ1ˆˆqqkqkkkˆˆˆˆˆˆˆ11224首先给出参数的一组初始值：将它们和代入上述两个迭代公式，计算出参数的第一次迭代值，，再将这些参数值代入迭代公式反复迭代，直到收敛。最后得到迭代值作为参数估计值。2012ˆˆˆˆˆ(0),(0)(0)(0)0qkˆ)1(ˆ2)1(ˆ,),1(ˆ1q25二、自回归模型参数估计（一）普通最小二乘估计OLS根据模型，残差平方和为根据最小二乘原理，利用一阶条件求上述最小二乘函数最小化的参数值，即为最小二乘估计。tptpttYYY11nptptpttnpttYYYeS121112)ˆˆ(pˆ,,ˆ126（二）利用样本自协方差方程的矩估计对于一般的平稳AR(p)模型，有关于自相关的一组关系，即Yule-Walker方程：pppppp210212211102127利用样本数据计算出样本自相关，代入上述Yule-Walker方程，可以解得的“Yule-Walker估计”：pˆ,,ˆ,ˆ10p,,1ppppppˆˆˆˆˆˆˆˆˆˆˆˆˆˆˆ2110212211102128该模型中修正项的方差则可以用下式估计：因为计算估计量的方程组是样本自相关函数，也是二阶样本矩方程，因此Yule-Walker估计同样是矩估计量，也是一致估计。tpjiijjipjjj1,0102ˆˆˆˆˆˆˆ29当样本容量足够大时，OLS法和矩估计方法的结果是很相似的。在使用OLS法时需要注意的是，AR(p)模型回归用的是一个时间序列的数据，各期滞后之间相关性较强，因此回归结果的有效性往往有问题，必须时间序列的样本容量比较大，而且还要排斥存在共线性问题。30三、自回归移动平均模型参数估计ARMA(p,q)模型的个参数可分两步进行估计步骤一：先估计出其中的自回归参数；步骤二：估计移动平均系数和。1qp231（一）估计自回归参数因为当时，ARMA(p,q)模型的自相关函数与AR(p)相同的性质，因此qk112111122qqqpqpqpqpqppq32利用样本自相关函数值，可计算出的估计量：p,,1pqqqqpqpqpqqqpqqqpˆˆˆˆˆˆˆˆˆˆˆˆˆˆˆ211211112133（二）估计移动平均系数模型改写成令，并让作为一个变量代入，则模型近似为就是一个MA(q)模型，可以利用前面介绍的MA(q)模型矩方法估计其中的参数和ptptttYYYYˆˆ~11qtqttptpttYYY1111tY~qtqtttY11~234可以利用原时间序列的自协方差和前面得到的自回归系数估计，计算出的自协方差，进而计算出自相关系数。再代入MA(q)模型矩估计的样本自相关函数，就可以用前面介绍的方法得到和的参数估计。pjikijjipjijktitjikttkYYEYYE0,0,ˆˆ)(ˆˆ)~~(~tY~q,,1235第四节ARMA模型检验和预测一、ARMA模型检验ARMA模型最主要的检验是残差序列随机性检验，也就是在用所选择的模型进行参数估计以后，确定残差序列是无序列相关的白噪声，还是存在序列相关性：如果仍然存在明显的序列相关性，意味着选择的模型没有把原时间序列中的信息全部模拟出来，或者说存在一定的偏差，模型需要修正。如果残差序列已经是白噪声，则所选择的模型比较合理。36检验残差是否白噪声的方法（一）是根据残差序列的样本自相关函数SACF，样本偏自相关函数SPACF，看它们是否在统计上具有显著性。（二）利用SACF，用专门的统计量~kQkjkkknnnQ12ˆ)2()(2mk0:210kH37一般的参数显著性t检验，确定模型及其阶数的信息准则SIC和AIC，也都对ARMA模型的选择，对自回归、移动平均阶数的确定有参考价值。在应用时应该综合考虑这些因素。BOX等建议采用“过拟合方法”进行检验。即先设定参数较多，阶数较高的模型，然后根据显著性和模型选择、判断准则逐步简化。这种方法有一定道理，但有时也有问题。38二、ARMA模型预测（一）ARMA模型预测原理预测的前提是已确定了模型，并且已经作了参数估计和进行了基本的检验。检验评估模型的预测往往把观测数据分成两部分，一部分用于估计参数，另一部分则用于检验模型的预测效果，从而判断模型的有效性。时间序列模型预测的一般准则是均