时间序列2

大连理工大学机械学院第二章自回归滑动平均模型•线性回归模型一元线性回归模型例：封闭容器内气压和温度的测量：大连理工大学机械学院采用一条直线描述的关系：－截距－斜率但实际存在误差：ε－残差目的是寻求求，使最佳ttxy1001NNNxyxyxy102210211101tttxy10ttxy01大连理工大学机械学院寻优常用最小二乘法进行估计（LSE）目标使误差的平方和最小设:则NtNttttxyS112102)(00sNtttxy1100)(201sNttttxxy1100)(xy10大连理工大学机械学院其中NtyNy11NtxNx1120,1211ˆˆ)())((xxyNtNttCxxyyxx0,ˆxyC2ˆxxy10大连理工大学机械学院于是得该时间序列的线性回归方程：即：其中，，为的均值，若使坐标平移至均值位置，则为：（注：今后不作说明，则皆为去均值的时序）tttttxxyxy1110tttxxyy)(1tttxy1yxtytx大连理工大学机械学院其中残差的方差：20,1211ˆˆxxyNtNttRxyx残差数残差平方和21121NtttxyN大连理工大学机械学院模型适用性检查：若建立的模型正确的，则残差为白噪声，满足：（1）均值为0（2）协方差为：表示为：0tEkkttkEr20001kkk),0(~2NIDt大连理工大学机械学院例：根据data建回归模型：解：645675236554321ttyxt2.45236551X6.56456751Y59.021tttxyx大连理工大学机械学院所以模型为所以tttxy59.0282.059.05122ttxy)282.0,0(~NIDt大连理工大学机械学院多元回归模型多元线性回归，例如压力和温度，浓度等几个因素有关，则：t取不同值有Ntxxxyttntttn,,3,2,12121NNnnNNNnnnnxxxyxxxyxxxy2211222222112111221111大连理工大学机械学院多元回归模型NnNnNNnnNxxxxxxxxxyyy212121222211121121大连理工大学机械学院寻求最优，采用最小二乘法：由于是白噪声，无法求出真值，只能得到其估计值，对于一元回归：对于多元回归，其估计值为：XYYXXXTT1ttxy1ˆntntttxxxy2121ˆt大连理工大学机械学院若为正态分布，则也为正态分布，真值95%的概率在范围：结论：回归分析是建立在因果关系的两列（一元回归）或多列（多元回归）随机过程的相关的基础上，只有观测到所有的序列才能进行回归模型。其残差为白噪声。回归可用来预报。96.1ˆtytty大连理工大学机械学院AR(1)模型在实测的情况下，只能观测到系统的一组时间序列对这样的Data作回归分析只能对时间t回归tttx10大连理工大学机械学院这要求中多元彼此无关，但实际上序列中存在这相关关系如开口量较大，则也较大较小，则也较小。因此要寻求一种模型来描述一个序列各元素之间的相关性。,,,,,121ttxxxx1txtxtx1txtx大连理工大学机械学院AR(1)模型与相关在一元线性回归中，两组观测数据：存在关系：这反映：①在同一t时刻，两个随机变量之间的相关性与时间无关，是静态的②在t时刻回归到NtNtxxxxxyyyyy,,,,,,,,,,,,321321tttxyttyExtx1txty大连理工大学机械学院现若一个时间序列以，组成数据对：也存在相关关系：Ntxt,,3,2,1,tx1tx11321432,,,,,,,,,,,,NtNtxxxxxxxxxxtttxx1),0(~2NIDt大连理工大学机械学院则①此式反映同一随机变量在不同时刻的相关性。这种相关性与时间有关（t→t-1）,因此是一种动态模型②此种回归是回归到本身，称为自回归，因此表示为：特性：①是一阶线性自回归，与之间存在线性关系②为白噪声（0均值，自协方差=方差）③模型以差分方程形式描述tx),0(~,211NIDaaxxtttttx1txtatx大连理工大学机械学院2.参数估计仍可沿用最小二乘法进行参数估计：1111112112112tttttttttaxxaxxaxxaxxNttNtttxxx22211大连理工大学机械学院残差对于平稳序列，应满足：对式的讨论：因为①是一个一阶自相关的平稳时间序列②是一个彼此独立的白噪声所以AR(1)模型可以看作把一相关序列化为独立序列的装置，或称“白噪声”装置，引入B算子：11tttxxaNtttaxxN22112111111tttxxa大连理工大学机械学院有当时，展开ttaBx11122111111BBB11大连理工大学机械学院（算子定义）即可化为的线性组合于是：的均值：所以010122111jjtjjtjjttaaBaBBxtatx0101jjtjjjtjtaEaExEtx0txE大连理工大学机械学院②的方差：tx2120212021011ajjajjtjjtjjtaVaraVarxVar大连理工大学机械学院3.模型适用检查模型建立之后，要进行适用性检查，最根本的是检查是否为白噪声对检查两方面：（1）是否与无关即计算的自相关函数：若很小，则合格，不用算了。000102kkaaEraEakkakttktt,,21ttaaNttNtttaaaa22211,tata1,a2,a3,ata大连理工大学机械学院（2）是否与无关若很小时，则认为无关。,,32ttxxNttNttNtttxaxaxat3223232,22,txata大连理工大学机械学院例：4.35.225.27.15.10.12.1:4.23.38.33.85.73.78.60.7:87654321xxtt减大连理工大学机械学院所以建模为：计算残差：748.05.112.15.17.115.12.112228228211tttxxxtttaxx1748.08,,3,2748.01txxattt大连理工大学机械学院得：方差：（较大）适用性检查：531.1005.1869.3229.1579.0752.0103.0:87654321tat22210.1030.7522.9467a091.0752.0103.0752.0,28328311tttttaaaaa14.0,83228328322ttttttxaxaxa大连理工大学机械学院预报分析9890.7480.784(3.4)2.542.545.83.2695%3.261.962.9463.263.374xxx＝还原：＝－的置信区间：预报误差较大可能需要更高阶模型大连理工大学机械学院AR(1)的物理意义随机过程分为两部分：①确定性部分②随机部分由控制论：一阶线性系统，当输入为时，其差分方程：当为白噪声时：即为AR(1)模型即AR(1)模型描述了一个以为输入，为输出的系统：tttaxx11tttfxx1111txtftxtatftttaxx11tatx大连理工大学机械学院B为后移算子随机游动当则即11tttaxx1ttaxB1ttax大连理工大学机械学院一次预报：，表明系统有很强的惯性.由：此时这说明是一个独立的随机变量之和，即序列中的各值是由前一个值再加上一个任意的随机值，故称之为随机游动模型。11ˆttxx01fjtjtax0jjttaxtxtx大连理工大学机械学院作业•采用多元模型对所给数据进行预测分析•对所给数据采用一列数据建立AR(1)模型，并检验大连理工大学机械学院•具有如下结构的模型称为阶自回归模型，简记为•特别当时，称为中心化模型0112220()0(),()0,()0,tttptptptttsstxxxxEVarEstExst，p)(pAR00)(pAR白噪声(对中心化AR)AR模型的定义大连理工大学机械学院自回归系数多项式•引进延迟算子，中心化模型又可以简记为•自回归系数多项式)(pARttxB)(ppBBBB2211)(大连理工大学机械学院ARMA模型•AR模型（AutoRegressionModel）•MA模型（MovingAverageModel）•ARMA模型（AutoRegressionMovingAveragemodel）大连理工大学机械学院ARMA(2,1)模型由太阳黑子序列（1749－1924）建立AR(1)模型：检查值较大，不是白噪声。与，也相关：代入原AR(1)：08.409,8.02111atttaxx38.0,53.0,21ttttxaaatata1ta2txttttaaxa1122大连理工大学机械学院即：自回归部分滑动平均部分此称之为ARMA（2，1）自回归为二阶，滑动平均为一阶tttttaaxxx112211tttttttaBxBBaaxxx122111221111大连理工大学机械学院AR(2)模型若，则AR(2)建模比ARMA(2,1)容易：即：NNNNaxxxNtaxxxtaxxxt221142231431221343NNNNaaaxxxxxxxxx43212123124301ttttaxxx2211AXY大连理工大学机械学院最小二乘法解：例：太阳黑子：，比一阶时小多了YXXXTT1ttttaxxx2165.034.186.2362a大连理工大学机械学院平稳序列时序图1(1)0.8tttxx12(3)0.5ttttxxx大连理工大学机械学院非平稳序列时序图1(2)1.1tttxxttttxxx115.0)4(大连理工大学机械学院ARMA(1,1)，MA(1)对ARMA(2,1)，若则→ARMA(1,1)若则→MA(1)02ttttaaxx1111021tttaax11大连理工大学机械学院ARMA(2,1)适用性