第三章几种重要的随机过程第一节独立过程和独立增量过程第二节正态过程第三节维纳过程第四节泊松过程定义3.1.1对任意的正整数n及任意的,,,,21TtttnTttX),(为独立过程.相互独立,称随机过程随机变量))(,),(),((21ntXtXtX第一节独立过程和独立增量过程一、独立过程独立随机过程的有限维分布由一维分布确定注nkkkknnnxtFxxttF111);(),,;,,(Ex.1高斯白噪声实值时间序列的NnnX),(,)][(0,)}({2nXDnXE自相关函数为20,;(,),.mnRmnmn称为离散白噪声(序列).NnnX),(两两不相关序列.又若X(n)都服从正态分布,称是高斯白噪声序列.NnnX),(对于n维正态随机变量有相互独立不相关故高斯白噪声序列是独立时间序列.若过程是正态过程,且RttX),(,0)(tXEtstststsR,0,)(δ),(2高斯白噪声是典型的随机干扰数学模型,普遍存在于电流的波动,通信设备各部分的波动,电子发射的波动等各种波动现象中.称其为高斯白噪声过程,它是独立过程.如金融、电子工程中常用的线性模型—自回归模型(AR(p))tptpttXXX11理想模型要求残差序列εt是(高斯)白噪声.二、独立增量过程定义3.1.2称,T=[0,∞)为独立增量过程,若对,及t0=0t1t2…tn,增量序列TttX),(2nX(t1)-X(0),X(t2)-X(t1),…,X(tn)-X(tn-1)相互独立.0t1t2…tn-1tn注不失一般性,设X(0)=0或P{X(0)=0}=1.有X(t1),X(t2)-X(t1),…,X(tn)-X(tn-1)相互独立.定义3.1.3若独立增量过程{X(t),t≥0}对,,Tts及h0,X(t+h)-X(s+h)与X(t)-X(s)有相同的分布函数,称{X(t),t≥0}是平稳独立增量过程.0tss+ht+h增量的分布仅与τ有关,与起始点t无关,称{X(t),t≥0}的增量具有平稳性(齐性).)()τ(tXtX注Ex.2若{X(n),n∈N+}是独立时间序列,令nkXkXnY00)0(,)()(则{Y(n),n∈N+}是独立增量过程.又若X(n),n=1,2,…相互独立同分布,则{Y(n),n∈N+}是平稳独立增量过程.证若n1n2…nm210012)()()()(nknkkXkXnYnY)()1(21nXnX)()1()()(3223nXnXnYnY)()1()()(11mmmmnXnXnYnY{X(n),n∈N+}相互独立各增量相互独立.性质3.1.1{X(t),t≥0}是平稳独立增量过程,X(0)=0,则1)均值函数m(t)=mt(m为常数);2)方差函数D(t)=σ2t(σ为常数);3)协方差函数C(s,t)=σ2min(s,t).分析因均值函数和方差函数满足,)()()(tmsmtsm)()()(tDsDtsD命题:若),()()(tysytsy.(1))(tyty可证得1)和2).则对任意实数t,有}])()()][()({[),(smsXtmtXEtsC证3))()(])()([tmsmsXtXE)()(})(])()()({[tmsmsXsXsXtXEX(t)-X(s)与X(s)相互独立.stmsXEsXEsXtXE22)]([})]([)]()([{)()(2222ststmsmsmsstm一般,C(s,t)=σ2min(s,t).性质3.1.2独立增量过程的有限维分布由一维分布和增量分布确定.分析对于独立增量过程{X(t),t≥0},任取的t1t2…tn∈T,Y1=X(t1),Y2=X(t2)-X(t1),…,Yn=X(tn)-X(tn-1)相互独立性,利用特征函数法可证明结论.思考题:1.白噪声过程是否一定是独立过程?2.独立过程是否是独立增量过程?反之?1.定义为n维正态分布,其密度函数为也称高斯过程。则称设{)(tX,Rt}是一随机过程,对任意正整数n及Rtttn,,,21,随机变量)(1tX,)(2tX,…,)(ntX的联合分布函数),,,,,,(2121nnxxxtttf;1/21/211exp{()C()}(2)|C|2nxmxm)(tX为正态过程,第二节正态过程其中nxxxx21)()()(21ntmtmtmm111212122212C(,)C(,)C(,)C(,)C(,)C(,)CC(,)C(,)C(,)nnnnnntttttttttttttttttt且)]([)(iitXEtmC(,){[()()][()()]}ijiijjttEXtmtXtmtC(,)jittC为协方差矩阵,1C是K的逆矩阵,)(mx表示)(mx的转置矩阵。注由正态过程的n维概率密度表达式知,正态过程的统计特性,由它的均值函数及自协方差函数完全确定。)(tm12C(,)ttEx.3证可得设{)(tX,Rt}是一个独立的正态过程,则其协方差函数12C(,)0tt(21tt)。若21tt,)(1tX与)(2tX相互独立,121212C(,)[()()]()()ttEXtXtmtmt0)()()()(2121tmtmtEXtEX注逆命题也成立。一、维纳过程的数学模型及应用维纳过程是英国植物学家罗伯特.布朗在观察漂浮在液面的花粉运动—布朗运动规律时建立的随机游动数学模型.第三节维纳过程维纳过程应用广泛:电路理论、通信和控制、生物、经济管理等.维纳过程的研究成果应用于计量经济学,使其方法论产生了一次飞跃,成功地应用于非平稳的经济过程,如激烈变化的金融商品价格的研究。二、定义则称或布朗运动过程。如果随机过程{W()t,0t}满足(1)W(0)0;(3)具有平稳独立增量过程;(4)0t,W()t),0(2tN,(0)。随机过程W()t为维纳过程,当1时,称为标准维纳过程。特别(2)E[W(t)]0;三、维纳过程的分布1.一维分布:W(t)~N(0,σ2t);2.增量分布:W(t)-W(s)~N(0,σ2|t-s|);设t>s,因W(0)=0,且W(t)是平稳独立增量过程,故有相同分布N(0,σ2(t-s)).)()()()(sWsstWsWtW)()0()(stWWstW与3.维纳过程是正态过程.证设维纳过程{W(t),t≥0}的参数是σ2,,21ntttn及任取),()(ˆ1kkktWtWX)),(,0(~12kkkttNX则相互独立,且有nkt,,2,1,00kkXXXtW21)()()()(21ntWtWtW11111001110001100001nXXX21正态随机向量的线性变换服从正态分布。四、维纳过程的数字特征1.E[W(t)]=0;D[W(t)]=2t2.C(s,t)=R(s,t)=σ2min(s,t)维纳过程是平稳独立增量过程下证C(s,)t2min(s,)t当st时C(s,)[W(s)W()]tEt{W(s)[EW()W(s)t]+2W(s)}2[W(s)]E{[W(s)W(0)]E[W()W(s)t]}[W(s)]D2s同理当ts时C(s,)t2t故2C(s,)min(s,)tt3.对任意nttt,,21,210ttnt维纳过程)(tX有)()(1iitXtX))(,0(12iittN,ni,,2,1证由于增量)()(1iitXtX,ni,,2,1是相互独立的正态变量。所以)]()([1iitXtXE0)]([)]([1iitXEtXE)]()([1iitXtXD})]()({[21iitXtXE)]()()(2)([1212iiiitXtXtXtXE)]([)]()([2)]([1212iiiitXEtXtXEtXEit2122it12itiitt1)(12iitt4.具有马氏性证因此所以因)(tX是维纳过程增量)()(sXstX与时刻s以前的状态)(X(s0)独立,xsXastXP)(|)({,)(X,s0}xsXxasXstXP)(|)()({,)(X,s0}xsXxasXstXP)(|)()({}xsXastXP)(|)({}所以维纳过程是马氏过程。例4试求的协方差函数。且解设{)(tW,0t}是一个维纳过程,0)0(W)()(tWltW(0l常数)12C(,)tt))()([(11tWltWE))]()((22tWltW)]()([tWltWE)]()([21ltWtWE)]()([21tWltWE)]()([21tWtWE),min(212ltlt),min(212ltt),min(212tlt),min(212tt)(tm0)]()([21ltWltWE当21tt时,可得12C(,)tt1221212),(,0ttltltttl当21tt,可得12C(,)tt2112221),(,0ttltltttl所以12C(,)tt|||),|(||,02121221ttlttlttl一、计数过程与泊松过程在天文,地理,物理,生物,通信,医学,计算机网络,密码学等许多领域,都有关于随机事件流的计数问题,如:盖格记数器上的粒子流;电话交换机上的呼唤流;计算机网络上的(图象,声音)流;编码(密码)中的误码流;第四节泊松过程交通中事故流;细胞中染色体的交换次数,…均构成以时间顺序出现的事件流A1,A2,…定义3.4.1随机过程{N(t),t≥0}称为计数过程(CountingProcess),如果N(t)表示在(0,t)内事件A出现的总次数.计数过程应满足:(1)N(t)≥0;(2)N(t)取非负整数值;(3)如果st,则N(s)≤N(t);(4)对于st,N(t)-N(s)表示时间间隔(s,t)内事件出现的次数.)s)tPoisson过程是一类很重要的计数过程.Poisson过程数学模型:电话呼叫过程设N(t)为[0,t)时间内到达的呼叫次数,其状态空间为E={0,1,2,…}此过程有如下特点:1)零初值性N(0)=0;2)独立增量性任意两个不相重叠的时间间隔内到达的呼叫次数相互独立;3)齐次性在(s,t)时间内到达的呼叫次数仅与时间间隔长度t-s有关,而与起始时间s无关;4)普通性在充分小的时间间隔内到达的呼叫次数最多仅有一次,即对充分小的Δt,有),(1)(}0)({0tottptNP),()(}1)({1tottptNP),()(}2)({2totptNPkk其中λ>0.定义3.4.2设计数过程{N(t),t≥0}满足:(1)N(0)=0;(2)是平稳独立增量过程;(3)P{N(h)=1}=λh+o(h),λ0;(4)P{N(h)≥2}=o(h).称{N(t),t≥0)是参数(或速率,强度)为λ的齐次泊松过程.EX.1在数字通信中误码率λ是重要指标,设{N(t),t≥0}为时间段[0,t)内发生的误码次数,{N(t),t≥0}是计数过程,而且满足(1)初始时刻不出现误码是必然的,故N(0)=0;(2)在互不相交的区间nnn