随机过程讲义(南开大学内部)

随机过程讲义(内部交流)目录目录1Poisson过程1舱舮舱定义舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舱舱舮舲另一个等价定义舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舳舱舮舳艐良艩艳艳良艮过程的其它性质舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舵舱舮舳舮舱顺序统计量舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舵舱舮舳舮舲过程的稀疏舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舶舱舮舴复合艐良艩艳艳良艮过程及应用舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舷舱舮舴舮舱复合艐良艩艳艳良艮过程舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舷舱舮舴舮舲复合艐良艩艳艳良艮过程在保险风险理论中的应用舮舮舮舮舮舮舮舮舮舮舮舮舸舱舮舵艐良艩艳艳良艮过程的其它扩展舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舱舰舱舮舵舮舱非齐次艐良艩艳艳良艮过程舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舱舰舱舮舵舮舲条件艐良艩艳艳良艮过程舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舱舰舱舮舵舮舳艐良艩艳艳良艮随机测度舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舱舱2离散时间马氏链12舲舮舱定义与例舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舱舲舲舮舲状态分类舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舱舴舲舮舲舮舱状态空间的分解舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舱舴舲舮舲舮舲状态的常返舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舱舵舲舮舲舮舳状态的周期性舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舲舰舲舮舳不变测度和平稳分布舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舲舰舲舮舴极限定理舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舲舳舲舮舴舮舱极限分布舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舲舳舲舮舴舮舲比率定理舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舲舶舲舮舵一些例子舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舲舷3连续时间马氏链33舳舮舱定义舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舳舳舳舮舱舮舱马氏性与等价条件舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舳舳舳舮舱舮舲转移概率舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舳舵舳舮舲标准转移矩阵的分析性质舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舳舶舳舮舳Q矩阵及其概率意义舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舳船舳舮舴向前与向后微分方程组舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舴舳舳舮舵一类马氏链的构造舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舴舶舳舮舶强马氏性舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舮舴舸舭艩舭第一章艐良艩艳艳良艮过程第一章Poisson过程称随机变量X服从参数为的艐良艩艳艳良艮分布，若P(X=k)=ekk!般k=0;1;:::舮称随机变量X服从参数为的指数分布，若P(Xt)=et舮此时，X的密度函数为et般t0般分布函数为1et般t0舮指数分布满足无记忆性，即P(Xt+s)=P(Xt)P(Xs):引理1.1设随机变量X,Y独立，f:RR!R有界可测。令g(x)=E[f(x;Y)].则g(X)可积，且E[f(X;Y)]=E[g(X)]:称fN(t);t0g为计数过程，若N(t)表示在时刻t之前发生事件的次数。因此，计数过程N(t)满足：舨艩舩N(t)0舻舨艩艩舩N(t)为整数值；舨艩艩艩舩对0st般N(s)N(t)舻舨艩艶舩对0st般N(t)N(s)表在区间(s;t]发生事件的次数。§1.1定义定义1.1称fN(t);t0g为参数为的（齐次）Poisson过程，若(i)N(t)是计数过程，N(0)=0;(ii)N(t)具有平稳独立增量，即对任意的0t0t1


tn,t0,h0,有N(t1)N(t0),:::,N(tn)N(tn1)独立，且N(t+h)N(t)与N(h)同分布；(iii)当h#0时，P(N(h)=1)=h+o(h);P(N(h)2)=o(h):舨舱舮舱舩定理1.2设N(t)是参数为的Poisson过程，则对任意的h0,P(N(t+h)N(t)=k)=et(t)kk!;k=0;1;::::舨舱舮舲舩舭舱舭第一章艐良艩艳艳良艮过程证明记pn(t)=P(N(t)=n)=P(N(t+s)N(s)=n)舮艩舩先考虑n=0的情形。对h0般有p0(t+h)=P(N(t+h)=0)=P(N(t)=0;N(t+h)N(t)=0)=P(N(t)=0)P(N(t+h)N(t)=0)=p0(t)p0(h):应用p0(h)=P(N(h)=0)=1P(N(h)=1)P(N(h)2)=1h+o(h);得p0(t+h)p0(t)=(1p0(h))p0(t)=hp0(t)+o(h):从而p0(t)在t右可导，且右导数为p0(t)舮而p0(th)p0(t)h=p0(th)p0(th)p0(h)h=1p0(h)hp0(t)p0(h);令h!0可得p0(t)在t的左导数也存在，且为p0(t)舮这样p00(t)=p0(t);p0(0)=1;于是p0(t)=et舮艩艩舩当n0时pn(t+h)=P(N(t+h)=n)=P(N(t)=n;N(t+h)N(t)=0)+P(N(t)=n1;N(t+h)N(t)=1)+P(N(t+h)=n;N(t+h)N(t)2)=pn(t)p0(h)+pn1(t)p1(h)+o(h)=(1h)pn(t)+hpn1(t)+o(h):对h0般有pn(t+h)pn(t)h=pn(t)+pn1(t)+o(h)h;从而pn(t)在t的右导数为pn(t)+pn1(t)舮类似的可知pn(t)的左导数也存在。这样p0n(t)=pn(t)+pn1(t);pn(0)=0;n1:上面方程等价于(etpn(t))0=etpn1(t):容易得到pn(t)=et(t)nn!:舭舲舭第一章艐良艩艳艳良艮过程这样，艐良艩艳艳良艮过程有如下的等价定义。定义1.2称fN(t);t0g为参数为的Poisson过程，若(i)N(t)是计数过程，且N(0)=0;(ii)N(t)是独立增量过程；(iii)对任意的t0,h0,有P(N(t+h)N(t)=k)=et(t)kk!;k=0;1;::::§1.2另一个等价定义设N(t)是参数为的艐良艩艳艳良艮过程。令S0=0般Sn=infft0;N(t)ng般Tn=SnSn1般n=1;2;:::舮定理1.3Tn,n=1;2;:::独立同分布且服从参数的指数分布。证明由P(T1t)=P(N(t)=0)=et;T1服从参数为的指数分布。对0t1t2和充分小的h1般h20般P(t1h1S1t1+h1;t2h2S2t2+h2)=P(N(t1h1)=0;N(t1+h1)N(t1h1)=1;N(t2h2)N(t1+h1)=0;N(t2+h2)N(t2h2)=1)=e(t1h1)
2h1e2h1
e(t2h2t1h1)
2h2e2h2=42h1h2e(t2+h2):所以，(S1;S2)的联合密度函数为g(s1;s2)=(2es2;0s1s2;0;其它。舨舱舮舳舩由T1=S1般T2=S2S1般(T1;T2)的联合密度函数为f(t1;t2)=(2e(t1+t2);ti0;0;其它。这样，T1般T2独立同分布。一般的情形类似可证。舭舳舭第一章艐良艩艳艳良艮过程定理1.4设T1,T2;:::独立同分布且同服从参数为的指数分布。令S0=0,Sn=T1+


+Tn,n=1;2;:::.则N(t)=supfn:Sntg是参数为的Poisson过程。证明当h!0时，有P(N(h)2)=P(S2h)=Zh02sesds2hZh0esds=o(h):及P(N(h)=1)=P(S1hS2)=P(S1h)+o(h)=1eh+o(h)=h+o(h);为使得定理成立，只需要再证明N(t)具有平稳独立增量。我们只证明对任意的n般k般P(N(t+s)N(t)=k;N(t)=n)=P(N(s)=k;N(t)=n):一般情形类似可证。注意到fS(n)tg=fN(t)ng:舨舱舮舴舩我们分下面几种情况来讨论。舨艩舩设k=0般n=0舮由指数分布的无记忆性，P(N(t+s)N(t)=0;N(t)=0)=P(N(t+s)=0)=P(S1t+s)=P(S1s)P(S1t)=P(N(s)=0)P(N(t)=0):舨艩艩舩设k=0般n1舮P(N(t+s)N(t)=0;N(t)=n)=P(Sntt+sSn+1)=P(Sntt+sSn+Tn+1)=Zt0P(t+su+Tn+1)dP(Snu)=Zt0P(S1s)P(Tn+1tu)dP(Snu)=P(N(s)=0)P(N(t)=n):舨艩艩艩舩设k1般n=0舮P(N(t+s)N(t)=k;N(t)=0)=P(tS1Skt+sSk+1)=P(tS1S1+kXi=2Tit+sS1+k+1Xi=2Ti)=Zs0P(kXi=2Tisuk+1Xi=2Ti)dP(S1t+u):舭舴舭第一章艐良艩艳艳良艮过程由dP(S1t+u)=dP(S1t+u)=P(S1t)dP(S1u)=P(S1t)dP(S1u);可得P(N(t+s)N(t)=k;N(t)=0)=P(S1t)Zs0P(kXi=2Tisuk+1Xi=2Ti)dP(S1u)=P(N(s)=k)P(N(t)=0):舨艩艶舩设k1般n1舮P(N(t+s)N(t)=k;N(t)=n)=P(SntSn+1Sn+kt+sSn+k+1)=Zt0P(tuS1Skt+suSk+1)dP(Snu)=P(N(s)=k)Zt0P(N(tu)=0)dP(Snu)=P(N(s)=k)P(N(t)=n):§1.3Poisson过程的其它性质§1.3.1顺序统计量假定艐良艩艳艳良艮过程在时刻t之前恰好有一次事件发生，即N(t)=1舮由于N(t)具有独立增量，事件发生的时刻应服从(0;t]上的均匀分布。事实上，P(S1sjN(t)=1)=P(S1s;N(t)=1)P(N(t)=1)=P(N(s)=1;N(t)N(s)=0)P(N(t)=1)=sese(ts)tet=st:为推广这一结果，我们引入顺序统计量的概念。设Y1般Y2般:::般Yn是n个随机变量，fY(1);Y(2);:::;Y(n)g=fY1;Y2;:::;Yng般且Y(1)Y(2)


Y(n)般则称Y(1)般:::般Y(n)为对应于Y1般Y2般:::般Yn的顺序统计量。若Y1般:::般Yn独立同分布，且具有密度函数f(x)般则Y(1)般:::般Y(n)的密度函数为f(y1;:::;yn)=n!nYi=1f(yi);y1


yn:特别的，当服从(0;t)上均匀分布时，密度函数为f(y1;:::;yn)=n!tn;0y1


ynt:舭舵舭第一章艐良艩艳艳良艮过程定理1.5假设在时间t0前已经发生了n次事件，即已知N(t)=n,则随机向量(S1;S2;:::;Sn)的分布与区间[0;t]上n个独立均匀分布的顺序统计量具有相同的分