时间数列分析---模式鉴定与估计

1時間數列分析---模式鑑定與估計李明一前言：承續上學期對平穩型數列（StationarySeries）的探討，此次報告著重於模式的鑑定及模式的估計、檢定，意即如何鑑定各種不同之時間數列應屬於何種子模式類型之方法，及所給予的數據被鑑定為某種型態的模式後，模式中的未知參數（Parameters）如何去估計。另亦介紹無定向數列或稱非平穩數列（NonstationarySeries）。本文主要參閱林茂文編著「時間數列分析與預測」（華泰書局）。內容：首先對無定向數列做初步介紹。如圖（一）(a)，無定向數列或非平穩數列（NonstationarySeries）圖形呈現漂浮無定向的情形，然可利用差分計算的觀念使數列趨於平穩，如圖（一）(b)。因此，可認為對一無定向型數列，經取連續的差分後，終將變為一穩定型數列。無人可定義差分運算子（DifferenceOperator）為ttttZBZZZ)1(1因此與後移運算子B之關係為B1，所以高階之差分可以表示為22)1(B，…，ddB)1(，例如：第二次差分可表示為212222)21()1(ttttttZZZZBBZBZ(1)一般而言，欲獲得無定向型時間數列之模式，係假設原始數列經取第d次差分（d0）後可轉為平穩型數列，則可以自我回歸移動平均模式（MixedAutoregressive-MovingAverageProcess，ARMA）來表示。如此之模式稱之為（p,d,q）階之整合自我回歸移動平均模式（AutoregressiveIntegratedMovingAverageModelofOrder(p,d,q)，ARIMA），其中p表示自我回歸過程之階數，d為差分次數，q為移動平均之階數。對ARIMA有了初步的瞭解後，即可討論如何鑑定不同之時間數列應屬於何種子模式類型，模式鑑定之過程有兩個部分，第一個部分為決定ARIMA模式之p,d與q等之數值，第二個部分為計算被選取模式中未知參數,與之初步估計值。由於ARIMA（p,d,q）所表示之一類模式在應用上涵蓋非常廣泛，最簡單的選擇模式之運算方法是對一個原始數列{tZ}或對原始數列取差分後之新數列{tdtZBW)1(}推求自我相關函數（AutocorrelationFunction,ACF）k。假設有一個差分後之觀測數列，記為1,2,…,n則tdtzB)1(，在時差k之樣本自我相關係數定義為2)()()(0cckk(2)式中kntkttknc1))((1與nttn11。另外，在鑑定模式時，亦需應用到偏自我相關函數(PartialAutocorrelationFunction,PACF)kk之理論圖形，藉以幫助判斷模式之類型。實際作業上，都是利用樣本之相關係數來估計理論之相關係數，但由於樣本誤差之關係，樣本估計值與理論值將不會完全相同一致。可利用下列(3)(4)兩式來判斷ACF與PACF是否自某一特定時差k起，其值有效地為零。第k個樣本ACF之標準誤差S.E.2111}21{]ˆ[21kjjkn(3)第k個樣本PACF之標準誤差S.E.21][nkk(4)假若估計值之絕對值小於2或3倍標準誤差，則可假設k或kk之係數值為零。鑑定ARIMA(p,d,q)d之數值，因ACF若不容易很快消失時，顯示該數列為一無定向行數列，故可對數列取差分直到數列...)2,1,0,(dZWtdt之ACF很快消失為止，即表示數列已經變為平穩型數列。由前次報告的內容很清楚的知道樣本ACF對建立移動平均（MA）模式的階次相當受用，而樣本PACF對建立自我回歸（AR）模式的階次亦很有幫助，然而對ARMA模式之建立其ACF與PACF均出現逐漸消失的型態，因此p與q的階次很難認定。對於ARMA模式之認定最常用的方法為假設tZ屬於一種ARMA(p,q)模式tqqtPpaBBCZBB)...1()...1(11(5)或等於tqiitipiititaaZCZ11(6)則piitittptZZZBBY11)...1((7)一般應用上，ARMA(p,q)模式之真正階次p與q通常均未知而需由估計而得，當然可運用最小二乘法估計，但是，當ARMA(p,q)p,q皆大於0時，最小二乘法所估計的參數不具一致性，因此將導致不正確的認定。為能推導出一致性的估計參數i，假設有ARMA(p,q)過程之n個觀測值且經平均數調整，如果以AR(p)模式來擬合該資料，即tpiititeZZ1,t=p+1,…,n(8)3式中te為誤差項，則利用最小二乘法對參數i之估計值pii,...,2,1,ˆ)0(將是不具一致性且估計的殘差直為piitittZZe1)0()0(ˆ(9)假若1q，則落後時差值qieit,...,2,1,ˆ)0(將包含tZ數列之某些訊息，如此，將導出下列之遞迴迴歸分析法，首先，考慮一種AR(p)附加)0(1ˆte之迴歸式，即pittititeeZZ1)1()0(1)1(1)1(ˆ,npt,...,2(10)式中附標(1)表示為第一次遞迴迴歸且)1(te為對應之誤差項。假若q=1則最小二乘法估計)1(ˆi將為一致性估計，若q1，則)1(ˆi將又是不具一致性，因此，需進行第二次遞迴AR(p)迴歸pitttititeeeZZ1)2()0(2)2(2)1(1)2(1)2(ˆ,npt,...,3(11)假若q=2則利用最小二乘法估計)2(ˆi將為一致性估計，若q2，則)2(ˆi又將不是具一致性，可重複利用前述遞迴獲得一致性的估計。其通式piqtqiiqitqiitqiteeZZ1)(1)()()(ˆ,nqpt,...,1(12)式中)(qte為第j次遞迴迴歸之估計的殘差值，)(ˆji與)(ˆji為對應的最小二乘估計值。當給予的一個數據被鑑定為某種型態的模式後，通常在模式中會含有一些未知參數(Parameters)在內，一般可利用最小二乘法加以推求參數之最佳估計值，一最小二乘法的定義即指對參數之真實值與估計值兩者間的平方和為最小，舉一AR(1)模式為例。假設模式方程式為tttaZZ)(11(13)tZ的期望值)()()())([)(111111ttttttzaEzazEZE(14)利用最小二乘法可求得參數與1之最小平方和為ntttntttzzZEzS1211121)]([)]([),((15)利用最小二乘法對1,取偏微分並令其結果等於0，得40),(1S與0),(11S解上二式得與1的估計值如下:1221211)())((ˆˆnttntttzzzzzzz(16)當一組數據被鑑定為某一個模式且其參數亦已求得最佳估值後，對於這樣一個暫定的模式，還需利用各種檢定方法來判斷擬合數據是否適合此一模式，其中最可靠的方法為從擬合模式中計算殘差taˆ之樣本自我相關函數。同樣亦以AR(1)為例，則(13)式的殘差taˆ之計算值為)ˆ(ˆ)ˆ(ˆ1tttzza，假若暫定的模式是正確的話，則可證得ta為獨立的隨機震動，使得ta之自我相關值k皆等於0，即kkk,...,3,2,1,0，因此，利用從計算taˆ之樣本自我相關值k2)ˆˆ()ˆˆ)(ˆˆ()ˆ(aaaaaaatktttk,kk,...,2,1(17)可檢驗所鑑定之模式是否足以符合要求，其檢驗之方法可利用2檢驗：當有大量觀測值且),0(~2atNa則kktkanQ12)ˆ((18)近似於2分配，且其自由度為k-p-q，式中n為實際}ˆ{ta之個數，k為所計算之殘差自我相關值之個數，p與q為模式之參數個數。當依上述方法檢驗結果令人不甚滿意時，應如何修正模式？今以一ARIMA(0,1,1)為例，假若發現1(僅有1為顯著)，則建議ta為另一種一階移動平均模式，即1tttbba此處tb替代ta為一隨機震動。因此可將模式修正為ttaBZB)1()1((19)式中ttbBa)1(即ttbBbZB)1)(1()1(或ttbBBZB)1()1(221式中1,2由此，吾人可再暫定模式為ARIMA(0,1,2)，接著繼續估計參數221,,b，然後再利用上述方法計算殘差之自我相關值k，直到尋找到滿意之模式為止。5圖(一)問題與討論：模式估計與檢定方法除了最小二乘法外，亦可利用最大似然法（MaximumLikelihoodFunction）來估計。計算估計模式中的未知參數（Parameters）需要一組起始值（InitialValue）方能使運算開始，最簡單的方法為令110,...,,p和110,...,,qaaa等於其無條件的期望值（UnconditionalExpectedValue）。即所有的110,...,,qaaa的期望值為0，且如果c=0，則所有110,...,,p亦等於0。如果q,...,,21之實際值不很接近於1以及觀測值的數目相當大，則這種方法便可與真值接近。另Box與Jenkins二人另提出一種方法，無條件的最大似然估計與後退推估方法（UnconditionalMaximumLikelihoodEstimationandBackcastingMethod），然此種估計方法計算複雜，不甚方便，適合於電腦程式的設計。