时间序列分析方法 第13章 Kalman滤波

时间序列分析方法讲义第13章卡尔曼滤波1第十三章卡尔曼滤波在本章中，我们介绍一种被称为卡尔曼滤波的十分有用的工具。卡尔曼滤波的基本思想是将动态系统表示成为一种称为状态空间表示的特殊情形。卡尔曼滤波是对系统线性投影进行序列更新的算法。除了一般的优点以外，这种算法对计算确切的有限样本预测、计算GaussARMA模型的确切似然函数、估计具有时变参数的自回归模型等，都提供了重要方法。§13.1动态系统的状态空间表示我们已经介绍过一些随机过程的动态表示方法，下面我们在以前的假设基础上，继续分析动态系统的表示方法。13.1.1继续使用的假设假设ty表示时刻t观测到的n维随机向量，一类非常丰富的描述ty动态性的模型可以利用一些可能无法观测的被称为状态向量(statevector)的r维向量tξ表示，因此表示ty动态性的状态空间表示(state-spacerepresentation)由下列方程系统给出：11tttvξFξ状态方程(statemodel)(13.1)tttwξHxAyt量测方程(observationmodel)(13.2)这里F，A和H分别是阶数为rr，kn和rn的参数矩阵，tx是1k的外生或者前定变量。方程(13.1)被称为状态方程(statemodel)，方程(13.2)被称为量测方程(observationmodel)，1r维向量tv和1n维向量tw都是向量白噪声，满足：ttEt,,)(0Qvv(13.3)ttEt,,)(0Rww(13.4)这里Q和R是rr和nn阶矩阵。假设扰动项tv和tw对于所有阶滞后都是不相关的，即对所有t和，有：0wv)(tE(13.5)tx是外生或者前定变量的假定意味着，在除了包含在121,,,yyytt内的信息以外，tx没有为stξ和stw(,2,1,0s)提供任何新的信息。例如，tx可以包括ty的滞后值，也可以包括与ξ和w(任意)不相关的变量。方程系统中方程(13.1)至方程(13.5)可以表示有限观测值的序列},,,{21Tyyy，这时需要状态向量初始值1ξ。假设1ξ与tv和tw的任何实现都不相关：0ξv)(1tE，对任意Tt,,2,1(13.6)0ξw)(1tE，对任意Tt,,2,1(13.7)状态方程(13.1)表明，tξ可以表示成为},,,,{321tvvvξ的线性函数：1122221ξFvFvFvFvξtttttt，Tt,,3,2(13.8)因此，方程(13.6)和方程(13.3)意味着tv与所有ξ的滞后值都是不相关的：0ξv)(tE，1,,2,1tt(13.9)类似地，可以得到：0ξw)(tE，T,,2,1(13.10)时间序列分析方法讲义第13章卡尔曼滤波20wξHxAwywt])([)(ttttEE，1,,2,1tt(13.11)0yv)(tE，1,,2,1tt(13.12)上述系统是相当灵活的，它的一些结论也可以推广到tv与tw相关的系统中，而且系数矩阵),,,,(RHAQF也可以是时间的函数。如果我们仅仅关注到上述系统的基本形式，则下面的论述将是十分清晰的。13.1.2状态空间表示的例子考虑一元)(pAR过程：111211)()()(tptptttyyyyttEt,0,)(2这个)(pAR过程可以表示成为下面的状态空间模型形式：状态方程(pr)0001000010000111112121tptttppptttyyyyyy(13.13)量测方程：11]001[pttttyyyy(13.14)对应地，我们指定：11pttttyyyξ，010000100001121ppF，00ttv，000000002Q这里变量和参数矩阵对应为：ttyy，A，1tx，001H，0tw，0R注意到这里的状态方程只是一个一阶向量自回归方程，量测方程只是一个简单的等式。因此，我们已经看到，状态空间表示只是总结)(pAR过程的另外一种方式。将)(pAR过程表示成为这种方式的原因在于，这样可以获得归纳)(pAR过程动态性的合适方式，这是我们对任何系统状态空间表示感兴趣的基本原因。另外一个例子是，我们考虑一元)1(MA过程：1ttty对应地，它可以表示成为状态空间模型形式为：状态方程(2r)：时间序列分析方法讲义第13章卡尔曼滤波300100111ttttt量测方程(1n)：ttty11这里：1tttξ，0100F，01ttv，0002Qttyy，A，1tx，1H，0tw，0R将给定系统表示成为状态方程的方式有多种。例如，可以将)1(MA过程表示成为下面类型的状态空间模型：状态方程(2r)：111110010tttttttt量测方程(1n)：tttty101显然上面的)1(MA过程、两种状态空间模型表示都是具有相同特征的过程表示，这三种表示都具有相同的预测和相同的似然函数值，也就无须讨论哪一种方式更为合适。更一般地，一元),(qpARMA模型可以通过定义}1,max{qpr进行状态空间模型表示：1122112211)()()(rtrtttrtrtttyyyy(13.15)这里的参数约束是：当pj时，0j；当qj时，0j。考虑下列状态空间模型表示为：状态方程(}1,max{qpr)：0001000010000111211ttrrtξξ(13.16)量测方程(1n)：trtyξ1211(13.15)为了验证方程(13.16)和方程(13.17)表示了系统与方程(13.15)一致，假设tj表示向量tξ的第j个元素，因此状态方程的第2行表示：tt112第3行表明：11213ttt更一般地，第j行表示：时间序列分析方法讲义第13章卡尔曼滤波41111tjtjL因此状态方程的第1行意味着：1,1123211,1)(ttrrtLLL或者：11,1221)1(ttrrLLL(13.18)量测方程表明：trrtLLLy,111221)1(ξ(13.19)在方程(13.19)两端乘以算子多项式)1(221rrLLL，并利用方程(13.18)，可以得到：trrtrrLLLyLLL)1()()1(11221221这就是原来的),(qpARMA模型，即方程(13.15)。状态空间形式是描述随机过程的和，或者测量误差结果的模型的非常合适的方式。例如，Fama和Gibbons(1982)开始着手研究事前实际利率(exanterealinterestrate)行为(事前实际利率是名义利率ti减去预期通货膨胀率et)。由于经济计量学家通过证券市场推断的预期通货膨胀率的数据，因此这个变量不是可以观测的。因此在这种应用中状态变量是一个标量，即：ettti，这里表示平均事前实际利率。Fama和Gibbons(1982)假设事前实际利率服从)1(AR过程：11tttv(13.20)经济计量学家可以观测到事后实际利率(名义利率ti减去真实通货膨胀率t)，这可以表示为：ttttetettttwii)()((13.21)这里)(tettw是人们预测通货膨胀率时的误差。如果人们以最优的方式形成通货膨胀率预测，则tw与自身的滞后值和事前实际利率是无关的。因此方程(13.20)和方程(13.21)是状态空间模型，这里1nr，F，tttiy，txA，1H，tettw。状态空间模型框架的另外一个有趣例子是Stock和Waston(1991)的研究，他们假设存在表示经济周期状态的不可观测变量tC。假设),,,(21ntttyyy是n个可以观测的宏观经济变量，每个都受到经济周期的影响，并且具有与ijyjt,中移动不相关的奇异成分(表示为ti)。如果经济周期和每个奇异成分可以利用一元)1(AR过程描述，则]1)1[(n维状态向量是：tnttttC21ξ(13.22)该状态变量具有的状态方程为：时间序列分析方法讲义第13章卡尔曼滤波5112111,21112111000000000000tntttCtntttCCCCtntttvvvvCC(13.23)量测方程为：tntttnntntttCyyyy21321321321100000010001(13.24)因此，参数i描述第i个序列对经济周期反应的敏感性。为了出现和描述p阶动态性，Stock和Waston(1991)将方程(13.22)中的tC和ti替换为)1(p阶向量),,,(11ptttCCC和),,,(11ptititi，这时tξ是]1)1[(pn维向量。这时方程(13.23)中的标量i需要利用)(pp阶矩iF阵替换，该矩阵结构与方程(13.13)类似。还需要在量测方程(13.24)中H的列中加入阶数为)]1(([pn的零子块。§13.2卡尔曼滤波的推导卡尔曼滤波是估计状态空间模型的重要方法，也是应用广泛的参数估计方法。下面我们介绍卡尔曼滤波的有关公式。13.2.1卡尔曼滤波的回顾OverviewoftheKalmanFilter考虑上述讨论的状态空间模型的一般形式，为了方便，我们将使用的一些关键方程在这里重复表示如下：)1()1()()1(11rrrrrtttvξFξ(1)()(1)()(1)(1)tttnnkknrrntyAxHξwttErrt,,)(0vvQ，ttEnnt,,)(0wwR假设我们已经得到了观测值Tyyy,,,21，Txxx,,,21；一个最终目标是基于这些观测值估计系统的所有未知参数。但是，目前我们暂时假设参数矩阵),,,,(RHAQF的特定数值都是确定性已知的。如何估计这些参数在后面的内容中讨论。卡尔曼滤波具有多种应用。它的基本动因是作为一种计算状态向量基于时刻t