随机过程知识点

随机过程复习1第一章：预备知识§1.1概率空间随机试验，样本空间记为Ω。定义1.1设Ω是一个集合，F是Ω的某些子集组成的集合族。如果（1）F；（2）A若F，AA\则F；（3）若nAF，，，21n，则1nnAF；则称F为代数(Borel域)。(,F)称为可测空间，F中的元素称为事件。由定义易知：.216\,,)5)4(111FAAAiFAFBAFBAFiiniiniii，，则，，，）若（；则若（；定义1.2设(,F)是可测空间，P(·)是定义在F上的实值函数。如果1121,,,31210,)1(iiiijiAPAPAAjiAAPAPFA有时，当）对两两互不相容事件（；）（；任意则称P是F,上的概率，（PF，，）称为概率空间，P(A)为事件A的概率。定义1.3设（PF，，）是概率空间，FG，如果对任意GAAAn,,,21，,2,1n有：,11niiniiAPAP则称G为独立事件族。§1.2随机变量及其分布随机变量X，分布函数)(xF，n维随机变量或n维随机向量，联合分布函数，TtXt,是独立的。§1.3随机变量的数字特征定义1.7设随机变量X的分布函数为)(xF，若)(||xdFx，则称)(XE＝)(xxdF为X的数学期望或均值。上式右边的积分称为Lebesgue-Stieltjes积分。方差，EYYEXXEBXY为X、Y的协方差，而DYDXBXYXY为X、Y的相关系数。若,0XY则称X、Y不相关。（Schwarz不等式）若,,22EYEX则.222EYEXEXY§1.4特征函数、母函数和拉氏变换定义1.10设随机变量的分布函数为F（x），称()(),jtXjtxgtEeedFxt随机过程复习2为X的特征函数随机变量的特征函数具有下列性质：(1)(0)1,()1,()()ggtgtgt1(2)g(t)在,上一致连续。（3）()(0)()kkkgiEX(4)若12,,,nXXX是相互独立的随机变量，则12nXXXX的特征函数12()()()()ngtgtgtgt，其中()igt是随机变量Xi的特征函数，1,2,,in.定义1.11设12(,,,)nXXXX是n维随机变量，t=(12,,,nttt),R则称121()(,,,)()[exp()]nitXnkkkgtgtttEeEitX,为X的特征函数。定义1.12设X是非负整数值随机变量，分布列,2,1,kxXPpkk则称)()(XdefsEsP＝kkksP0为X的母函数。§1.5n维正态分布定义1.13若n维随机变量),,,(21nXXXX的联合概率密度为})()(21exp{)2(1),,,()(12/2/21TnnnaxBaxBxxxfxf式中，),,,(21naaaa是常向量，nnijbB)(是正定矩阵，则称X为n维正态随机变量或服从n维正态分布，记作),(~BaNX。可以证明，若),(~BaNX，则X的特征函数为}21exp{),,,()(21tiBtiatttgtgn为了应用的方便，下面，我们不加证明地给出常用的几个结论。性质1若),(~BaNX则nlbBaXEklXXkklk,,2,1,,)(。性质2设),(~BaNX，XAY，若BAA正定，则),(~BAAaANY。即正态随机变量的线性变换仍为正态随机变量。性质3设),,,(4321XXXXX是四维正态随机变量，4,3,2,1,0)(kXEk，则)()()()()()()(3241423143214321XXEXXEXXEXXEXXEXXEXXXXE§1.6条件期望给定Y=y时，X的条件期望定义为dxyxxfyxxdFyYXE)|()|()|(由此可见除了概率是关于事件｛Y=y｝的条件概率以外，现在的定义与无条件的情况完全一样。E(X|Y=y)是y的函数，y是Y的一个可能值。若在已知Y的条件下，全面地考虑X的均值，需要以Y代替y，E(X|Y)是随机变量Y的函数，也是随机变量，称为X在Y下的条件期望。条件期望在概率论、数理统计和随机过程中是一个十分重要的概念，下面我们介绍一个极其有用的性质。性质若随机变量X与Y的期望存在，则)()|()]|([)(ydFyYXEYXEEXEY--------(1)随机过程复习3如果Y是离散型随机变量，则上式为yyYPyYXEXE}{)|()(如果Y是连续型，具有概率密度f(x)，则（1）式为dyyfyYXEXE)()|()(第二章随机过程的概念与基本类型§2.1随机过程的基本概念定义2.1设（PF，，）是概率空间,T是给定的参数集,若对每个t∈T，有一个随机变量X(t,e)与之对应，则称随机变量族}),,({TtetX是（PF，，）的随机过程,简记为随机过程}),({TttX。T称为参数集，通常表示时间。通常将随机过程}),,({TtetX解释为一个物理系统。X(t)表示在时刻t所处的状态。X(t)的所有可能状态所构成的集合称为状态空间或相空间，记为I。从数学的观点来说，随机过程}),,({TtetX是定义在T×Ω上的二元函数。对固定的t，X(t,e)是定义在T上的普通函数，称为随机过程}),,({TtetX的一个样本函数或轨道，样本函数的全体称为样本函数的空间。§2.2随机过程的函数特征tX={X(t),t∈T}的有限维分布函数族。有限维特征函数族：}1,,,,:),,,({2121,,1nTtttgnnttn其中：)})((exp{),,,(121,,1knkkntttxiEgn定义2.3设tX={X(t),t∈T}的均值函数deftmX)()]([tXE，Tt。二阶矩过程，协方差函数：T,)]()([),()(2ttmtXEdefttBtDXXX相关函数：),(tsRX)]()([tXsXE定义2.4设{X(t),t∈T}，{Y(t),t∈T}是两个二阶矩过程，互协方差函数，互相关函数。§2.3复随机过程定义2.5设},{TtXt，},{TtYt是取实数值的两个随机过程，若对任意TttttiYXZ，其中1i，则称},{TtZt为复随机过程．定理2.2复随机过程},{TtXt的协方差函数),(tsB具有性质（1）对称性：),(),(stBtsB；（2）非负定性§2.4几种重要的随机过程一、正交增量过程定义2.6设tt,是零均值的二阶矩过程，若对任意的,4321tttt有公式03412tttt，则称t正交增量过程。随机过程复习4tstsRts,min,,2二、独立增量过程定义2.7设tt,是随机过程，若对任意的正整数n和,21nttt随机变量12312,,,nntttttt是互相独立的，则称tt,是独立增量过程，又称可加过程。定义2.8设tt,是平稳独立增量过程，若对任意,ts随机变量st的分布仅依赖于st，则称tt,是平稳独立增量过程。三、马尔可夫过程定义2.9设TttX,为随机过程，若对任意正整数n及nttt,21,0,,)(1111nnxtXxtXP，且其条件分布1111,,|)(nnnnxtXxtXxtXP=11|)(nnnnxtXxtXP，(2.6)则称TttX,为马尔可夫过程。四、正态过程和维纳过程定义2.10设TttX,是随机过程，若对任意正整数n和Tttt,,21,(,,21tXtX,ntX)是n维正态随机变量，则称TttX,是正态过程或高斯过程。定义2.11设ttW),(为随机过程，如果（1）0)0(W；（2）它是独立、平稳增量过程；（3）对ts,，增量0,||,0~)()(22stNsWtW，则称ttW),(为维纳过程，也称布朗运动过程。定理2.3设ttW),(是参数为2的维纳过程，则（1）任意t),(,||,0~)(2tNtW；（2）对任意tsa,,),min())()())(()((2atasaWtWaWsWE,特别：tstsRw,min,2。五、平稳过程定义2.12设TttX,是随机过程，如果对任意常数和正整数,n当nntttt,,,,,11时，nttt,,21与nttt,,,21有相同的联合分布，则称TttX,为严平稳过程，也称狭义平稳过程。定义2.13设TttX,是随机过程，如果（1）TttX,是二阶矩过程；（2）对于任意ttmt,常数；（3）对任意的stRtsRts,,,，则称TttX,为广义平稳过程，简称为平稳过程。若T为离散集，则称平稳过程TttX,为平稳序列。第三章泊松过程§３.1泊松过程的定义和例子定义3.1计数过程定义3.2称计数过程}0),({ttX为具有参数＞0的泊松过程，若它满足下列条件(1)X(0)=0；随机过程复习5(2)X(t)是独立增量过程；(3)在任一长度为t的区间中，事件A发生的次数服从参数t＞0的泊松分布，即对任意s,t＞0，有)1.3(),2,1,0(,!)(})()({nntensXtsXPnt注意，从条件(3)知泊松过程是平稳增量过程且ttXE)]([。由于，ttXE)]([表示单位时间内事件A发生的平均个数，故称为此过程的速率或强度。定义3.3称计数过程}0),({ttX为具有参数＞0的泊松过程，若它满足下列条件(1)X(0)=0；(2)X(t)是独立、平稳增量过程；(3)X(t)满足下列两式：)(}2)()({),(}1)()({hotXhtXPhohtXhtXP(3.2)定理3.1定义3.2与定义3.3是等价的。3.2泊松过程的基本性质一、数字特征设}0),({ttX是泊松过程，stmsmtsRtsBtstXsXEtsRttXDtttXEtmXxXXXXX)()(),(),()1())()((),())(()())(()(2一般泊松过程的有),min(),(tstsBX。有特征函数定义，可得泊松过程的特征函数为)}1(exp{][)()(iutiuXXeteEug二、时间间隔与等待时间的分布nW为第n次事件A出现的时刻或第n次事件A的等待时间，nT是第n个时间间隔，它们都是随机变量。定理3.2设}0),({ttX是具有参数的泊松分布，)1(nTn是对应的时间间隔序列，则随机变量),2,1(nTn是独立同分布的均值为/1的指数分布。定理3.3设}1,{nWn是与泊松过程}0),({ttX对应的一个等待时间序列，则nW服从参数为n与的分布，其概率密度为0,00,)!1()()(1ttntetfntWn三、到达时间的条件分布定理3.4设}0),({ttX是泊松过程，已知在[0,t]内事件A发生n次，则这n次到达时间n21与相应于n个[0,t]上均匀分布的独立随机变量的顺序统