第六章-(惯性仪器测试与数据分析)时间序列

1惯性仪器测试与数据分析西北工业大学自动化学院严恭敏2015-092第六章时间序列分析主要内容：•一、随机过程的基本概念•二、ARMA模型及其特点•三、ARMA建模分析3第六章时间序列分析4一、随机过程的基本概念1、随机向量在概率论中，随机变量用来描述随机事件，可分为续型随机变量，离散型随机变量。（1）随机变量X使用概率密度函数、概率分布函数、特征函数及数字特征（均值、方差和矩等）等数学语言描述。（2）随机向量T21,...,,NXXXX由N个随机变量组成一组向量：T21T21,...,,)(),...,(),()(XNXXNXXEXEXEEXμ2212221212121T...),(Cov),(Cov............),(Cov...),(Cov),(Cov...),(Cov]))([()(XNNNNXNXXXXXXXXXXXXXXXEDμXμXX均值向量方差矩阵)])([(),(CovXjjXiijiXXEXX),(Cov)(2iiiXiXXXD),...,2,1()(NiXEiXi5一、随机过程的基本概念2、随机过程与时间序列R1R2RNx1(t)x2(t)xN(t)0x1(t)t0x2(t)t0xN(t)t.........x1(t1)x1(t2)x1(tj)......x2(t1)x2(t2)x2(tj)xN(tj)xN(t2)xN(t1)电阻热噪声电压A）每只电阻电压随时间是一条随机波动的曲线),...,2,1(),(NitxiB）在同一特定时刻各个电阻的电压值各不相同jt)(),...,(),(21jNjjtxtxtxi——样本曲线（轨迹、现实）——随机变量取值)(jtXA）所有样本函数的集合构成了一个随机过程；（3）随机过程定义：)(tX),...(),...,(),(21NtXtXtX)(),...,(),(21jNjjtxtxtx6一、随机过程的基本概念2、随机过程与时间序列随机变量取值（4）随机过程分类与时间序列时间参数取值连续离散连续离散时间序列使用A/D转换器对热电阻电压进行等间隔采样，假设A/D分辨率足够高忽略量化误差影响sTT),...(),...,2(),(sssnTXTXTXX将采样周期归一化处理，常将时间序列记为,...2,1,0),(nnX时间序列就是按照时间的先后顺序记录的一列有序数据，这些数据由于受到各种偶然因素的影响，往往表现出某种随机性，但彼此之间又存在一定的相关性；时间序列分析就是对时间序列进行观察、研究，揭示其蕴含的内在规律，进而根据变化规律预测走势或实施控制。时间序列分析方法大体可分为时域和频域两种分析方法。时域分析方法主要从序列自相关的角度揭示时间序列的发展规律；频域分析方法也称为频谱分析，从频率角度揭示时间序列的规律。7一、随机过程的基本概念2、随机过程与时间序列（5）时间序列的数字特征均值序列NiiNXnxNnXEn1)(1lim)]([)(自协方差函数)]()()][()([1lim)]}()()][()({[)](),([Cov),(2121122112121nnxnnxNnnXnnXEnXnXnnCXNiiXiNXXX自相关系数函数)()(),(),(22122121nnnnCnnXXXX方差函数})]()({[)]([)(22nnXEnXDnXX自相关函数NiiiNXnxnxNnXnXEnnR1212121)()(1lim)]()([),()()(),(),(212121nnnnRnnCXXXX1),(1),(121nnnnXX恒等式22()()[()]DXEXEX8一、随机过程的基本概念3、平稳性与各态遍历性（1）严平稳过程（狭义平稳过程）随机过程的所有概率统计性质不随时间原点推移而变化，要求过于苛刻，不利于理论分析和实际应用。（2）宽平稳过程（广义平稳过程或二阶矩平稳过程）①在所有时刻上，均值序列和方差序列都是常值，且方差有限，即和；②自相关函数与时间起点无关，而只与时间间隔有关，即XXn)(22)(XXn)(),0(),(21XXXRRnnR12nn例如，白噪声序列是理论分析中一种理想化的最基本的平稳序列)(nWWnWE)]([000)(2WW),(~)(2正态分布，高斯白噪声常记作)(nW)()(XXRR偶对称9一、随机过程的基本概念3、平稳性与各态遍历性（3）各态遍历平稳过程对于平稳过程，实际工作中通常很难取得足够多的样本用来分析随机过程的总体特性，有时也是没有必要的，所以常常只用少量甚至一个样本函数进行分析，这就涉及到一个样本函数的特性能否代表和估计随机过程总体特性的问题。若满足所有样本函数在某一固定时刻的一阶和二阶统计特性与单一样本函数在长时间的统计特性一致则称为各态遍历平稳随机过程，即xiMMniMXnxMnXE)(121lim)]([)()()(121lim)]()([)(mrnxnxMnXnXERxiMMniiM集总平均=时间平均提出各态遍历性目的：计算方便，但针对实际问题证明困难，经验上：主要物理条件随时间基本不变，各样本随机影响因素基本相同。简记作，可表示1.时间序列总体2.某一样本3.时刻样本值)(nX)(nxn10一、随机过程的基本概念3、平稳性与各态遍历性(0)0.5PX(1)0.5PX2212()00.510.50.5()(00.5)0.5(10.5)0.50.25(,)XEXDXCnn举例11二、ARMA模型及其特点建立模型意义：A）获得一些重要的模型参数，有助于深入了解研究对象，为进一步改进研究对象提供依据；B）通过建立研究对象的数学表达式，是更好地发挥研究对象的使用性能的基础，特别是在使用现代最优控制和最优估计理论解决实际问题时，对传感器进行随机测量误差建模分析具有重要意义。（1）ARMA(p,q)、MA(q)与AR(p)模型定义以零均值高斯白噪声序列作为时间序列分析的最基本组成单元，一般各态遍历平稳时间序列使用白噪的线性组合声来表示。),0(~)(2WNnw)(nx)(nx)(nw)(zH线性时不变离散系统（数字滤波器，ARMA模型）)()()(zwzHzxpkkkqkkkzazbzAzBzH1111)()()(pkkkzazA11)(qkkkqkkkzbzbzB011)(特征根1rz12二、ARMA模型及其特点A)ARMA(p,q)模型（自回归-滑动平均模型）qkkpkkqpknwbknxaqnwbnwbnwbnwpnxanxanxanx012121)()()(...)2()1()()(...)2()1()(pkkkqkkkzazbzAzBzH1111)()()(观测值与既往p个观测存在相关性，并且除外与既往q个噪声也存在相关性)(nx)(),...,2(),1(pnxnxnx)(nw)(),...,2(),1(pnwnwnwB)MA(q)模型（滑动平均模型）qkkqknwbqnwbnwbnwbnwnx021)()(...)2()1()()(0pC)AR(p)模型（自回归模型）)()()()(...)2()1()(121nwknxanwpnxanxanxanxpkkp0q滑动平均系数自回归系数13二、ARMA模型及其特点（2）MA(q)模型特点qhqhbbhjnwbknwbEhnxnxEhhqkhkkqjjqkkx00)()()]()([)(0200自协方差函数qkkpknwbqnwbnwbnwbnwnx021)()(...)2()1()()(自相关系数函数qhqhbbbhhqkkhqkhkkx00)/()(01)(020q步截尾)(...)2()1(1)0(...11...000..................100...10...121211212qbbbbbbbbbxxxxqqqq矩阵形式相关分析：已知求2,kb)0(),,...,2,1(),(xqhh模型辨识：已知求)0(),(xh2,kb01230123()()(1)(2)(3)(2)(2)(1)()(1)xnbwnbwnbwnbwnxnbwnbwnbwnbwn14二、ARMA模型及其特点（3）AR(p)模型特点自协方差函数自相关系数函数矩阵形式)()()]()([])()[()]()()[()]()([)(111hkhahnwnxEkhnxanxEhnwkhnxanxEhnxnxEhxwpkxkpkkpkkx)()()()(...)2()1()(121nwknxanwpnxanxanxanxpkkp000)(2hhhxw)0()()()(1xwpkxkxhkhah)0()(121xpkxkka)(...)2()1(...1...)2()1(............)2(...1)1()1(...)1(121paaappppxxxpxxxxxxxxρaΓ简记为，即尤尔－沃克方程（Y-W方程）相关分析：已知求2,ka)0(),,...,2,1(),(xqhh模型辨识：已知求)0(),(xh2,ka15二、ARMA模型及其特点AR(p)自相关系数函数拖尾性pkxkxkmam1)()()0()()()(1xwpkxkxhkhahpm),...,2,1(),(phh如已知，当时研究表明，按负指数函数衰减，理论上是无限延伸趋于0的，这种性质称为拖尾性。)(mx为了判断AR（p）过程的阶数，引入偏自相关系数函数定义)](ˆ)([)](ˆ)([)](ˆ)(),(ˆ)([Cov)(knxknxDnxnxDknxknxnxnxkX11)()(ˆkiiinxnx11)()(ˆkiiiknxknx其中含义：扣除中间量的影响后，与之间的相关性。)1(),...2(),1(knxnxnx)(nx)(knx为最佳线性估计系数；ii,16二、ARMA模型及其特点按定义不好计算，研究发现恰好与k阶Y-W方程的解系数完全相同)(...)2()1(...1...)2()1(............)2(...1)1()1(...)1(121kkkkkxxxkkkkxxxxxx)(kXkk显然是的函数。kk)(),...,2(),1(kxxx容易验证这两个特例和，并且。)1(11xpppa)(,0pkkk因此，AR(p)过程的偏自相关系数函数是p步截尾的，这是用它作为过程阶数判断的重要标志。偏自相关系数函数的定义和计算方法也适用于MA(q)过程，但它按负指数函数衰减，也就是说MA(q)偏自相关系数函数具有拖尾性质AR(p)MA(q)对偶性自相关系数q步截尾