第六章时间序列模型参数的统计推断.

1上海财经大学统计学系时间序列模型参数的统计推断设平稳时间序列tX是一个ARMA(,pq)过程，即11112,~0,,,0ttptpttqtqtstXXXWNstEX其中1,,p为自回归系数，1,,q为移动平均系数。2上海财经大学统计学系时间序列模型参数的统计推断在ARMA(,pq)的建模过程中，关键的一步就是模型的参数估计问题，本章将讨论ARMA(,pq)模型的参数估计问题。根据ARMA(,pq)模型的特点，参数估计一般分为下列两步进行：粗估计和精估计。3上海财经大学统计学系时间序列模型参数的统计推断自协方差系数的参数估计设平稳时间序列tX的一个样本1,,Txx。样本自协方差系数11ˆ,11ˆˆ,11TkkjjkjkkxxxxkTTkT其中11TjjxxT为样本均值，则样本自协方差系数ˆk是tX的自协方差系数k的估计。4上海财经大学统计学系时间序列模型参数的统计推断自协方差系数的参数估计样本自相关系数0ˆˆˆ,1kkkT是tX的自相关系数k的估计。5上海财经大学统计学系时间序列模型参数的统计推断自协方差系数的参数估计11ˆ,11ˆˆ,11TkkjjkjkkxxxxkTTkkT有时，自协方差系数的参数估计还可以用6上海财经大学统计学系时间序列模型参数的统计推断自协方差系数的参数估计设平稳时间序列tX的一个样本为1,,Txx，只要1,,Txx不完全相同，则由ˆk构成的样本的自协方差系数阵011102120ˆˆˆˆˆˆˆˆˆˆTTTTT是正定矩阵。7上海财经大学统计学系时间序列模型参数的统计推断自协方差系数的参数估计当1,,Txx不完全相同时，则,1,,iiyxxiT不全为零，所以(21)TT矩阵121121121000000TTTTTTyyyyyyyyAyyyy是满秩阵。8上海财经大学统计学系时间序列模型参数的统计推断自协方差系数的参数估计简单计算可知，011102120ˆˆˆˆˆˆ1ˆˆˆˆTTTTTTAAT其中TA表示A的转置阵。则对于任意的非零向量，有11ˆ0TTTTTAAAATT所以ˆT是正定阵。9上海财经大学统计学系时间序列模型参数的统计推断自协方差系数的参数估计对于任意的1kT，根据正定阵的性质，由于ˆk是ˆT的主子式，因此ˆk也是正定的。类似地，对于任意的1kT，相应的样本自相关系数矩阵111212ˆˆ1ˆˆ1ˆˆˆ1kkkkkR也是正定的。10上海财经大学统计学系时间序列模型参数的统计推断自协方差系数的参数估计设平稳时间序列tX的样本自协方差系数ˆk由(6.1)定义，如果当k，0k。则对于每个固定的k，ˆk是k的渐近无偏估计，即ˆlimkkTE11上海财经大学统计学系时间序列模型参数的统计推断自协方差系数的参数估计只要tX是平稳序列，则在平均意义下，样本自协方差系数ˆk是k的渐近无偏估计。特别地，当tX是AR(p)，MA(q)或者ARMA(,pq)序列时，对于每个固定的k，样本自协方差系数ˆk是k的渐近无偏估计。12上海财经大学统计学系设tX是平稳序列：2,...0,tjtjtjXGiid其中jjG,则对于每一个1,2,k，有ˆkρ的渐近分布为1,NknWρ，其中12ˆˆˆˆ,,,kkρ12,,,kkρW是协方差矩阵，其第,ij元素ijw由Bartlett公式给出2222ijkikjkikjijkikkjjkkikw13上海财经大学统计学系时间序列模型参数的统计推断自协方差系数的参数估计设tX是相互独立的白噪声序列，20,ttEXVarX，如果0k，则1,,0,,0kkρ，根据计算可以得到1,0,ijijw其它因此，对于白噪声序列tX一个样本1,,Txx，当T充分大时，有112ˆˆˆ,,,...0,LkiidNn14上海财经大学统计学系时间序列模型参数的统计推断ARMA(p,q)模型参数的矩估计设平稳时间序列tX是一个零均值因果ARMA(,pq)过程，现在要讨论的问题是基于样本观测值1,,Txx，给出自回归参数1,,p、移动平均参数1,,q和白噪声方差2的估计，本节将利用矩估计思想给出ARMA(,pq)模型的参数估计。15上海财经大学统计学系时间序列模型参数的统计推断ARMA(p,q)模型参数的矩估计运用pq个样本自相关系数估计理论自相关系数，即111111ˆ,,,,,ˆ,,,,,pqpqpqpq解此方程组得到1ˆˆ,,p，1ˆˆ,,q即为1,,p，1,,q的矩估计。16上海财经大学统计学系时间序列模型参数的统计推断自回归AR(p)模型参数的Yule-Walker估计根据AR(p)模型的特征，自回归系数1,,p由AR(p)模型的自相关系数惟一确定，即满足Yule-Walker方程：01121111022211220pppppppp17上海财经大学统计学系时间序列模型参数的统计推断自回归AR(p)模型参数的Yule-Walker估计1011110222120pppppp18上海财经大学统计学系时间序列模型参数的统计推断自回归AR(p)模型参数的Yule-Walker估计11011110222120pppppp2011pkkk19上海财经大学统计学系时间序列模型参数的统计推断自回归AR(p)模型参数的Yule-Walker估计用ˆ(0,,)kkp代替(0,,)kkp，根据定理6.1，只要样本观测值1,,Txx不完全相同时，相应的样本自协方差矩阵ˆp必为正定。20上海财经大学统计学系时间序列模型参数的统计推断自回归AR(p)模型参数的Yule-Walker估计自回归系数1,,p的唯一解11101110222120ˆˆˆˆˆˆˆˆˆˆˆˆˆˆˆpppppp21上海财经大学统计学系时间序列模型参数的统计推断自回归AR(p)模型参数的Yule-Walker估计201ˆˆˆˆ1pkkk称为自回归参数1,,p的矩估计或者为Yule-Walker估计22上海财经大学统计学系时间序列模型参数的统计推断自回归AR(p)模型参数的Yule-Walker估计设tX为AR(2)序列，21122,~0,tttttXXXWN试给出AR(2)模型参数212,,的Yule-Walker估计。23上海财经大学统计学系时间序列模型参数的统计推断自回归AR(p)模型参数的Yule-Walker估计12,的Yule-Walker估计为101111022ˆˆˆˆˆˆˆˆ解之得2111ˆ1ˆˆˆ1，221221ˆˆˆˆ1。24上海财经大学统计学系时间序列模型参数的统计推断自回归AR(p)模型参数的Yule-Walker估计2的矩估计为20112222221012211ˆˆˆˆˆˆ1ˆˆˆ1ˆˆˆ1ˆˆ1125上海财经大学统计学系时间序列模型参数的统计推断自回归参数的Yule-Walker估计的统计特性:1.一致性可以证明，若4tE，自回归参数1,,p的Yule-Walker估计和2的矩估计分别依概率收敛于其真值参数。即11ˆˆ,,,,Pkp，22ˆP26上海财经大学统计学系时间序列模型参数的统计推断自回归参数的Yule-Walker估计的统计特性:2.渐近正态性和渐近无偏性如果tX序列满足因果性，即存在一个常数序列jG，且满足0jjG，使得0,0,1,tjtjjXGt则对于1ˆˆ,,k满足如下性质1221ˆ0,,LpTN其中1ˆˆˆ,,p，1,,p，p为自协方差距阵。27上海财经大学统计学系时间序列模型参数的统计推断自回归参数的Yule-Walker估计的统计特性:3.渐近置信区间应用渐近正态性，我们可以给出1ˆˆ,,k的近似置信区间。令.jj表示(6.15)式中的协方差阵21p的第jj项元素，根据正态分布的性质，ˆ(1,,)jjp满足12.ˆ0,,1,,LjjjjTNjp。由此，可以得到(1,,)jjp的置信水平为95%的近似置信区间为..ˆˆ1.96,1.96,1,,jjjjjjTTjp28上海财经大学统计学系时间序列模型参数的统计推断自回归参数的Yule-Walker估计的统计特性:实际问题中，(6.16)式中的.jj是未知的，我们可以使用协方差阵21p的估计21ˆˆp的第jj项元素.ˆjj代替，由此得到(1,,)jjp的置信水平为95%近似置信区间..ˆˆˆˆ1.96,1.96,1,,jjjjjjTTjp29上海财经大学统计学系时间序列模型参数的统计推断自回归参数的Yule-Walker估计的统计特性:理论上可以证明，估计的收敛速度比较慢，随机模拟也显示这样得到的估计的精度较差，比较粗糙，一般地，无法直接作为模型参数的估计值。30上海财经大学统计学系时间序列模型参数的统计推断移动平均MA(q)模型参数的矩估计设平稳时间序列tX是一个零均值MA(q)序列，211,~0,tttqtqtXWN基于样本观测值1,,Txx，给出移动平均系数1,,q和白噪声方差2的矩估计。31上海财经大学统计学系时间序列模型参数的统计推断移动平均MA(q)模型参数的矩估计222012111,1,2,qkkkqqkkq利用32上海财经大学统计学系时间序列模型参数的统计推断移动平均MA(q)模型参数的矩估计用ˆ(0,,)kkq代替(0,,)kkq，代入，得到22201211ˆ1ˆ,1,2,qkkkqqkkq由此可以给出参数的矩估计，但是此方程是非线性的，实际求解一般比较困难。33上海财经大学统计学系时间序列模型参数的统计推断ARMA(p,q)模型参数的矩估计设平稳时间序列tX是一个零均值ARMA(,pq)序列，21111,~0,ttptpttqtqtXXXWN进一步地设模型是因果的和可逆的。1,,Txx是ARMA(,pq)序列tX的一个样本观测值。我们要讨论的问题是