17.1马尔可夫过程的一般概念7.2马尔可夫链7.3状态连续马尔可夫过程特性7.4独立增量过程的基本概念第七章马尔可夫过程7.5泊松过程7.6维纳过程7.3状态连续马尔可夫过程特性[定义7.14]状态连续,时间离散的马尔可夫过程称为马尔可夫序列。A延迟()Wn(1)Xn()Xn在实际中,一般的马尔可夫序列是对连续的马尔可夫过程进行抽样得到的,例如,在对运动目标(导弹,飞机)的轨迹测量中,信号的模型常采用以下的一阶差分方程,即:(1)()()XnAXnWnA为常数W(n)为均值为()Wmn,方差为2()Wn的白噪声高斯高斯高斯-马尔可夫序列7.3.1马尔可夫序列如何求高斯特性的状态转移概率密度[(1)()](())[()]()()XWEXnXnEAXnEWnAmnmn①高斯-马尔可夫序列X(n+1)的条件均值:11(;;)nnnnfxtxt?22(1)({(1)[(1)]}){[()()]}()XWWnnEXnEXnxnEWnmnn②高斯-马尔可夫序列X(n+1)的条件方差:为了确定高斯概率密度,只需要知道给定X(n)的X(n+1)的条件均值和条件方差就够了。如何求高斯-马尔可夫序列X(n+1)的自协方差(,)XKns?(,){[()()][()()]}XXXKnsEXnmnXsms1111()()()()()()nsnsnsinsiXWXiiEAXsAWniAmsAmniXsms1111()()()()()()nsnsnsiiXWXiiEAXsmsAWniAmniXsms2()()()()()nsXXnsXEAXsmsXsmsAs马尔可夫序列的一般形式:A延迟()Wn(1)Xn()Xn(1)()()()()XnAnXnBnWnA(n),B(n)为确知的随时间变化的矩阵[定义7.15]状态和时间都是连续的马尔可夫过程称为连续的马尔可夫过程。7.3.2连续的马尔可夫过程()()()XtXtWt()()()()XttXttWt股票预期收益率股票价格股票价格波动率Ito过程为什么说X(t)是一个马尔可夫过程?()()()()dXtXtXtWtdt[()]()ttdeXteWtdt取任意两个时刻tn和tn-1,对上式两边进行tn-1到tn的积分,则11[()]()nnnntttttteXteWd111()()()nnnntttnnteXteXteWd11))1()()()nnnnnttttnntXteXteWdX(tn)的概率密度只与tn-1时刻的值有关,而与tn-1以前的值无关,因此X(tn)为马尔可夫过程。X(t)的均值函数:()()()XtXtWt()()()XXWmtmtmt上式为简单的常系数一阶微分方程,只要初始条件mX(0)已知,就可以确定mX(t)。X(t)的方差函数:22()()(,)[()()]XXXXVttKttEXtmt2()2[()()][()()]2[()()][()()()()]2[()()]()()]()()]2[()()]2[()()]()()]XXXXXWXXWXXWVtEXtmtXtmtEXtmtXtWtmtmtEXtmtXtmtWtmtEXtmtEXtmtWtmt是否和马尔可夫序列一样也为零?对该式两边微分可得:X(t)的方差函数:初始条件VX(0)已知即可确定VX(t)。00()00()[()()]()()][()()]()()][()()]()()]XWttXWttXWtEXtmtWtmteEXtmtWtmteEXtmtWmd0()22()2ttWtWettdt对所有tt0所,X(t0)与W(t)不相关,故该项为零222()2[()()]2[()()]()()]2()()XXXWXWVtEXtmtEXtmtWtmtVtt7.4独立增量过程的基本概念[定义7.16]如果在参数集T上任意选取t1t2t3…tn的n个时间点,随机过程X(t)的增量X(t2)-X(t1),X(t3)-X(t2),…,X(tn)-X(tn-1)是相互统计独立的随机变量,则称这类随机过程X(t)为独立增量过程。独立增量过程是一种特殊的马尔可夫过程。[定义7.17]设随机过程X(t)的二阶矩存在,当时,有则称这类随机过程X(t)为正交增量过程。1234ttttT21430EXtXtXtXt[定义7.18]如果独立增量过程的增量X(tk)-X(tk-1)的分布仅与时间差(tk-tk-1)有关,而与tk,tk-1本身无关,则称它为齐次的独立增量过程。[定理7.13]对于独立增量过程,如果它还满足,则该过程也是正交增量过程。,XttT20,EXtEXt独立增量过程泊松过程维纳过程7.5泊松过程[定义7.19]在(0,t)内出现事件A的总数所组成的过程称为计数过程。7.5.1计数过程,0Ntt[定义7.20]在计数过程中,如果在不相交叠的时间间隔内出现事件A的次数是相互统计独立的,则该计数过程为独立增量过程。[定义7.21]在计数过程中,如果在[t1,t1+s)内出现事件A的次数仅与时间差s=t1+s-t1有关,而与起始时间t1无关,即[N(t1+S)-N(t1)]仅与s有关而与t1无关,则称该计数过程为平稳增量的计数过程。7.5.2泊松过程概念泊松过程是计数过程,而且是最重要的一类计数过程。设有一随机过程{X(t),t≥0},如果X(t)满足:(1)从t=0起开始观察事件,即X(0)=0;(2)X(t)是独立增量过程;(3)该计数过程为平稳增量过程;(4)在(t,t+Δt)内,当时出现一个事件概率为;(5)在(t,t+Δt)内,当时出现事件二次及二次以上的概率为;则称该计数过程为泊松过程。0t1,Pttttt0tt[定理7.14]泊松过程在时间间隔[t0,t0+t]内n次出现事件A的概率为:,0Xtt00!0,1,2,....nttPXttXtnenn证明:略。7.5.3泊松过程的统计特性111111[()][()][()])))!(1)!(1)!nnnntttnnnEXtXtnPXtnttttneetetnnn①数学期望222211)[()][()][()]!ntnntEXtXtnPXtnnettn②均方值与方差22[()](())(())DXtEXtEXtt③自相关函数222(,)[()()][()(()()())][()(()())][(())][(())][(()())][()][()]()()(1)XRstEXsXtEXsXtXsXsEXsXtXsEXsEXsEXtXsDXsEXsstsssst()独立增量④自协方差函数),min(),(,),(,)()(),(),(tstsKttsKststmsmtsRtsKXXXXXX从而则若7.5.4泊松过程的分布特性1.各次事件间的时间间隔分布•设{X(t),t≥0}是参数为λ的泊松过程,X(t)表示到t时刻为止事件A发生的次数。•Wn表示第n次事件A发生的时间(n≥1),也称为第n次事件A的等待时间,或到达时间。•Tn表示第n-1次事件A发生到第n次事件A发生的时间间隔。TnT3T2T1tW3W2W10Wn-1Wn时间间隔Tn的分布为:概率密度为:1,0()10,0,0()0,0nntTnntTetFtPTtPTttetfttTn的平均值:01[]tnETtedt2.等待时间分布21用Sn表示从时间t=0开始到达第n次事件出现所需要的时间称为第n次事件的等待时间。1(1)nniiSTn()()()()()()!nnSnknktknknStXtnFtPStPXtnPXtktPXtkek分布函数:22概率密度函数:111()()()()()!!()()!(1)!()0(1)!nnSSkkttknjnkkttknknntdFtftdttteekkktteekktetn3.达到时间分布设泊松过程,如果已知在(0,t)内有一个A事件出现,求这个以事件达到时间的条件分布,即:,0Xtt11/11()()/1,1()1,()1()11()(0)1,()()0()1()(0)1}{()()0()1TXtststFsPTsXtPTsXtPXsXtPXtPXtPXsXXtXsPXtPXsXPXtXsPXtseestet概率密度函数为:1/11()TXtfst241|()10,0(),01,TXtssFssttst1|()11,0()0,TXtstfst其他4.有两个相互统计独立的泊松过程设泊松过程,这两个过程的参数为λ1和λ2.设代表第一个过程中出现第一次事件所需的时间。代表第二过程中出现第一次事件所需的时间。现在研究第一过程出现第一次事件先于第二过程出现第一次事件的概率,即。12,0,,0XttXtt11s21s1211Pss1212111120012yxyPssedxdy5.泊松过程设泊松过程,这两个过程的参数为λ1和λ2.设代表第一个过程中出现第k次事件所需的时间。代表第二过程中出现第一次事件所需的时间。现在研究第一过程出现第k次事件先于第二过程出现第一次事件的概率,即。12,0,,0XttXtt1ks21s121kPss21112111210121!kkyxkxxPsseedydxk7.6维纳过程-布朗运动过程1.布朗运动简介英国植物学家布朗(Brown)在显微镜下,观察漂浮在平静的液面上的微小粒子,发现它们不断地进行着杂乱无章的运动,这种现象称为布朗运动.爱因斯坦(Enisten)1905年提出一种理论,认为微粒的这种运动是由于受到大量随机的、相互独立的分子碰撞的结果.布朗运动计算机模拟结果n=100n=500n=1000n=5000n=10000n=500002.维纳过程的数学模型{(),0},Xtt给定二阶矩过程如果它满足(1)具有平稳独立增量;2(2)0,()()(0,()),0;tsXtXsNts对任意的增量~且(3)(0)0.(4)0t0XtEX对于一切,则称此过程为维纳过程。3.维纳过程的特征维纳过程增量的分布只与时间差有关,所以维纳过程是齐次的独立增量过程,也是正态过程.其分布完全由均值函数和自协方