自相关函数与偏自相关函数

1自相关函数与偏自相关函数上一节介绍了随机过程的几种模型。实际中单凭对时间序列的观察很难确定其属于哪一种模型，而自相关函数和偏自相关函数是分析随机过程和识别模型的有力工具。1、自相关函数定义在给出自相关函数定义之前先介绍自协方差函数概念。由第一节知随机过程{tx}中的每一个元素tx，t=1,2,…都是随机变量。对于平稳的随机过程，其期望为常数，用表示，即()tEx，1,2,t随机过程的取值将以为中心上下变动。平稳随机过程的方差也是一个常量2()txVarx，1,2,t2x用来度量随机过程取值对其均值的离散程度。相隔k期的两个随机变量tx与tkx的协方差即滞后k期的自协方差，定义为：(,)[()()]kttkttkCovxxExx自协方差序列：k，0,1,2,k称为随机过程{tx}的自协方差函数。当k=0时，20()txVarx。自相关系数定义：(,)()()ttkkttkCovxxVarxVarx因为对于一个平稳过程有：2()()ttkxVarxVarx所以220(,)ttkkkkxxCovxx，当k=0时，有01。以滞后期k为变量的自相关系数列k（0,1,2,k）称为自相关函数。因为kk，即(,)tktCovxx=(,)ttkCovxx，自相关函数是零对称的，所以实际研究中只给出自相关函数的正半部分即可。22、自回归过程的自相关函数（1）平稳AR(1)过程的自相关函数AR(1)过程：11tttxxu，1。已知()0tEx（why?）。用tkx同乘上式两侧txtkx11ttkttkxxux上式两侧同取期望：k11k其中()0ttkEux（why?）（由于xt=ut+1ut-1+12ut-2+…，所以xt-k=ut-k+1ut-k-1+12ut-k-2+…，而ut是白噪音与其t-k期及以前各项都不相关）。两侧同除0得：2111210kkkk因为o=1，所以有k1k（0k）对于平稳序列有。所以当1为正时，自相关函数按指数衰减至零；当1为负时，自相关函数正负交错地指数衰减至零。见下图。因为对于经济时间序列，1一般为正，所以第一种情形常见。指数衰减至零的表现形式说明随着时间间隔的加长，变量之间的关系变得越来越弱。-.2.0.2.4.6.82468101214-.8-.4.0.4246810121410-10图AR(1)过程的自相关函数同理，对于=和情形即非平稳和强非平稳过程的自相关函数如下图。3-4-3-2-1012342468101214-1.5-1.0-0.50.00.51.01.52468101214=1.1（强非平稳过程）=1（随机游走过程）（2）AR(p)过程的自相关函数用tkx(k同乘平稳的p阶自回归过程1122tttptptxxxxu的两侧，得：1122tkttkttktptktptktxxxxxxxxxu对上式两侧分别求期望得：k1122kkpkp，k0用0分别除上式的两侧得Yule-Walker方程：k=1k-1+2k-2+…+pk-p，k0令2121()1(1-)pppiiLLLLGL，其中L为k的滞后算子，这里1iG,i=1,2,…,p是特征方程()0L的根。为保证随机过程的平稳性，要求1iG。则：121210piipiGGG，也即1212kkkkpiiipiGGGG。可证：1122kkkkppAGAGAG（*）其中Ai,i=1,…，p为待定常数。（提示：可把（*）式代入到Yule-Walker方程中证明）由（*）式知道会遇到如下几种情形。①当iG为实数时，（*）式中的kiiAG将随着k的增加而几何衰减至零，称为指数衰减。②当iG和jG表示一对共轭复数时，设iGabi，jGabi，22ba=R，则iG,jG的极座标形式是：(cossin)iGRi(cossin)jGRi4若AR(p)过程平稳，则1iG，所以必有R1。那么随着k的增加，(cossin)kkiGRkik(cossin)kkjGRkik自相关函数（*）式中的相应项kiG,kjG将按正弦振荡形式衰减。注意：实际中的平稳自回归过程的自相关函数常是由指数衰减和正弦衰减两部分混合而成。③从（*）式可以看出，当特征方程的根取值远离单位圆时，k不必很大，自相关函数就会衰减至零。④有一个实数根接近1时，自相关函数将衰减的很慢，近似于线性衰减。当有两个以上的根取值接近1时，自相关函数同样会衰减的很慢。-.4.0.42468101214-.4-.2.0.2.4.62468101214两个特征根为实根两个特征根为共轭复根图AR(2)过程的自相关函数3、移动平均过程的自相关函数（1）MA(1)过程的自相关函数。对于MA(1)过程11tttxuu，有：1111()[()()]kttktttktkExxEuuuu当k=0时，01111()[()()]ttttttExxEuuuu22111(2)ttttEuuuu221(1)当k=1时，1111112()[()()]ttttttExxEuuuu52211112112()tttttttEuuuuuuu21当k1时，1111()[()()]kttktttktkExxEuuuu21111111()ttkttkttkttkEuuuuuuuu0综合以上三种情形，MA(1)过程自相关函数为k=0k=121,110,1kk-.4-.2.0.2.42468101214-.4-.2.0.2.424681012141010图MA(1)过程的自相关函数可见MA(1)过程的自相关函数具有截尾特征。当k1时，k=0。（2）MA(q)过程的自相关函数MA(q)过程的自相关函数是k=112222212...,1,2,,1...0,kkkqkqqkqkq当kq时，k=0，说明k,k=0,1,…具有截尾特征。例如，对于MA(2)过程，自相关函数是1=22212111,2=222121,k=0,k2。4、ARMA(1,1)过程的自相关函数ARMA(1,1)过程的自相关函数k从1开始指数衰减。1的大小取决于1和1,1的符号取决于(1-1)。若10，指数衰减是平滑的，或正或负。若10，相关函数为正负交替式指数衰减。6对于ARMA(p,q)过程，p,q2时，自相关函数的表现形式比较复杂，可能是指数衰减、正弦衰减或二者的混合衰减。5、相关图（correlogram，或估计的自相关函数，样本自相关函数）对于一个有限时间序列（x1,x2,…,xT）用样本平均数x=T1Tttx1估计总体均值，用样本方差s2=21)(1TttxxT估计总体方差x2。当用样本矩估计随机过程的自相关函数，则称其为相关图或估计的自相关函数，记为rk=0CCk,k=0,1,2,…,K,(KT).rk是对k的估计。其中Ck=1Tk1()(),Tkttktxxxxk=0,1,2,…,K,是对k的估计。C0=21)(1TttxxT是对0的估计。T是时间序列数据的样本容量。实际中T不应太小，最好能大于60。注意：Ck为有偏估计量。但在小样本条件下更有效。相关图是对自相关函数的估计。由于MA过程和ARMA过程中的MA分量的自相关函数具有截尾特性，所以通过相关图可以估计MA过程的阶数q。相关图是识别MA过程阶数和ARMA过程中MA分量阶数的一个重要方法。对于年度时间序列数据，相关图一般取k=15就足够了。kr的方差近似为1T。所以在观察相关图时，若kr的绝对值超过212T（2个标准差），就被认为是显著地不为零。当T充分大时，近似有：12(0)krT=kr12T~N(0,1)7第五节偏自相关函数偏自相关函数是描述随机过程结构特征的另一种方法。用kj表示k阶自回归过程中第j个回归系数，则k阶自回归模型表示为：1122tktktkktktxxxxu其中kk是最后一个回归系数。若把kk看作是滞后期k的函数，则称kk，1,2,k为偏自相关函数。它由下式中的红项组成。1111tttxxu2112222ttttxxxu1122tktktkktkktxxxxu因偏自相关函数中每一个回归系数kk恰好表示tx与tkx在排除了其中间变量1tx，2tx，，1tkx影响之后的相关系数，112211tktktkktkkktkktxxxxxu所以偏自相关函数由此得名。用kj表达Yule-Walker方程1122kkkpkp,得1122jkjkjkkjk用矩阵形式表示上式，8k...21=1.....................1...1321211121kkkkkkkkk...21或=P.则=P-1,将k=1,2,…代入上式连续求解，可求得偏自相关函数11=1，2221=1111121=1111112111=212122111其中22=212121…对于AR(1)过程，tx=11xt-1+tu，当k=1时，110；当k1时，0kk。所以AR(1)过程的偏自相关函数特征是在k=1出现峰值（11=1）然后截尾。-0.8-0.6-0.4-0.20.00.20.40.60.82468101214-0.8-0.6-0.4-0.20.00.20.40.60.82468101214110110AR(1)过程的偏相关图对于AR(2)过程，当k2时，0kk；当k2时，0kk。偏自相关函数在滞后期2以后有截尾特性。9对于AR(p)过程，当kp时，0kk；当kp时，0kk。偏自相关函数在滞后期p以后有截尾特性，因此可用此特征识别AR(p)过程的阶数。对于MA(1)过程tx=tu+1ut-1，有[1/(1+1L)]tx=tu，(1-1L+12L2-…)tx=tu，tx=1xt-1-12xt-2+13xt-3-…+tu当10时，自回归系数的符号是正负交替的；当10时，自回归系数的符号全是负的。因为MA(1)过程可以转换为无限阶的AR过程，所以MA(1)过程的偏自相关函数呈指数衰减特征。-0.8-0.6-0.4-0.20.00.20.40.60.82468101214-0.8-0.6-0.4-0.20.00.20.40.60.824681012141010MA(1)过程的偏自相关函数对于MA(2)过程，若(L)=0的根是实数，偏自相关函数由两个指数衰减形式叠加而成。若(L)=0的根是复数，偏自相关函数呈正弦衰减形式。因为任何一个可逆的MA(q)过程都可以转换成一个无限阶的系数按几何递减的AR过程，所以MA(q)过程的偏自相关函数呈缓慢衰减特征。ARMA(p,q)过程的偏自