第十章随机过程及统计描述随机过程引言随机变量是一个与时间无关的量,随机变量的某个结果,是一个确定的数值。例如,骰子的6面,点数总是1~6,假设A面点数为1,那么无论你何时投掷成A面,它的点数都是1,不会出现其它的结果,即结果具有同一性。但现实世界中的许多现象是随时间的进展而变化与发展的,这些现象通常称为过程。可分为两类:(1)确定性的变化过程:例如,质点的运动过程就是最普通的过程。假设一个质点在直线上运动,它的位置随时间而变化,数学上,质点的位置可表示为时间t的函数x(t)。假定质点是在一个确定的力的作用下运动,则表示运动过程的函数x(t)也是完全确定。随机过程(2)不确定的变化过程:例如,如果质点在一个随机的力(它由各种随机因素所形成)的作用下,那么质点的运动也是随机的,如何描述这样的变化过程,一方面,如果对其变化过程的全过程做一次观察,得到一个位置与时间关系的函数x1(t),若再次观察,又得到函数x2(t),每次得到的结果均不同,因而得到一族函数;另一方面,如果在时刻t观察质点的位置x(t),x(t)不再是一个确定的数而是一个随机变量,这样就对于每个时刻t便得到一个随机变量X(t),于是我们就得到一族随机变量{X(t),t≥0},(最初始时刻为t=0),它描述了随机的运动过程。对于这样的随机现象,用一个或几个随机变量去描述或刻划它就行不通了,而必须有一族随机变量才能刻划它。我们称这种随时间的进展而变化与发展的随机现象为随机过程。显然,随机过程是由随机变量构成,又与时间相关。一、随机过程的定义1.定义1设E是一随机实验,样本空间为Ω={},参数T(-,+),如果对每个,总有一个确定的时间函数X(,t)与之对应,这样对于所有的,就得到一族时间t的函数,我们称此族时间t的函数为随机过程,而族中每一个函数称为这个随机过程的样本函数。定义1把随机过程看成一族样本函数定义2:设E是一随机实验,样本空间为Ω={},参数T(-,+),如果对任意tT,有一定义在Ω上的随机变量X(,t)与之对应,则称{X(,t),tT}为随机过程,简记为X(t),tT或X(t),也可记为X(t).注释:(1)随机过程X(t),tT是定义在Ω×T上的二元函数,因此可以从两个角度去理解,因而有如上的两个定义。定义2把随机过程看成依赖于t的一族随机变量对于每一个固定的时刻Tt0,)(0tX是一个随机变量,并称作随机过程)(tX在0tt时的一个状态,它反映了)(tX的“随机”性;对于每一个0,)(tX是一个确定的样本函数,它反映了)(tX的变化“过程”。定义的理解:上面两种随机过程的定义,从两个角度描述了随机过程。具体的说,作观测时,常用定义1,这样通过观测的试验样本来得到随机过程的统计特性;对随机过程作理论分析时,常用定义2,这样可以把随机过程看成为n维随机变量,n越大,采样时间越小,所得到的统计特性越准确。可从以下四个方面对定义进行理解:1一个时间函数族(和都是变量)t2一个确知的时间函数(是变量而固定)t3一个随机变量(固定而是变量)t4一个确定值(和都固定)t(2)通常将随机过程X(t),tT解释为一个物理系统,X(t)表示系统在时刻t所处的状态,X(t)的所有可能状态所构成的集合称为状态空间,记为I,对于给定的t0T,及xI,X(t0)=x说成是在时刻t0,系统处于状态x.(3)从定义2的角度上看,随机过程是有限维随机变量的推广.2.随机过程的举例例1:考虑抛掷一颗骰子的试验,(i)设Xn是第n次(n≥1)抛掷的点数,对于n=1,2……的不同值,Xn是不同的随机变量,因而{Xn,n≥1}构成一随机过程,称为贝努利过程或贝努利随机序列;(ii)设Xn是前n次抛掷中出现的最大点数,{Xn,n≥1}也是一随机过程。随机过程{Xn,t∈T}中参数t通常解释为时间集,便于理解,符合实际。但参数t还可以表示为其它的量,例如序号,距离等等.例2:某寻呼台在时间段[0,t]内接到的呼唤次数是与t有关的随机变量X(t),对于固定的t,X(t)是一个取非负整数的随机变量,故{X(t),t≥0}是随机过程。例3:(热噪声电压)电子元件或器件由于内部微观粒子(如电子)的随机热骚动所引起的端电压称为热噪声电压,在无线电通讯技术中,接收机在接收信号时,机内的热噪声电压要对信号产生持续的干扰,为要消除这种干扰(假设没有其他干扰因素),就必须考虑热噪声电压随时间变化的过程,现以电阻的热噪声电压为例说明这种变化过程的描述方法:我们通过某种装置对电阻两端的热噪声电压进行长时间的测量,并把结果记录下来,作为一次试验结果,便得到一个电压-时间函数(即电压关于时间t的函数)x1(t),如图.当对接收机的噪声电压作“单次”观察时,可以得到波形,也可能得到波形,等等,每次观测的波形的具体形状,虽然事先不知道,但肯定为所有可能的波形中的一个。而这些所有可能的波形集合,,,…,,…..,就构成了随机过程。)(1tx)(2tx)(3tx)(1tx)(2tx)(3tx)(txn)(tX二、随机过程的分类1.按状态空间I和时间是可列集还是连续集分类:(1).连续型随机过程:T是连续集,且tT,X(t)是连续型随机变量,则称过程{X(t),tT}为连续型随机过程.(2).离散型随机过程:T是连续集,且tT,X(t)是离散型随机变量,则称过程{X(t),tT}为离散型随机过程。(3).连续型随机序列:T是可列集,且tT,X(t)是连续型随机变量,则称过程{X(t),tT}为连续型随机序列.(4).离散型随机序列:T是可列集,且tT,X(t)为离散型随机变量,则称过程{X(t),tT}为离散型随机序列。通常T取为T={0,1,2…}或T={0,±1,±2…},此时随机序列常记成{Xn,n=0,1,…}或{Xn,n0}。2.按分布特性分类:依照过程在不同时刻状态的统计依赖关系分类。例如:独立增量过程,马尔可夫过程,平稳过程等。1.一维分布函数:三、随机过程的概率分布1.一维分布函数:三、随机过程的概率分布2.二维分布函数:三、随机过程的概率分布3.n维分布函数:设{X(t),tT}是随机过程,对于任意整数n≥1及T中任意n个不同的参数t1,t2,…,tn,称随机向量(X(t1),X(t2),…,X(tn))的分布函数})(,,)(,)({},,,;,,,{nnnnxtXxtXxtXPtttxxxF22112121为随机过程{X(t),tT}的n维分布函数.三、随机过程的概率分布变化n及t1,t2,…,tn所得到的有限维分布函数的全体1212121nTtTttttttxxxFFnnn,,,,,},,,,;,,,{称为{X(t),tT}的有限维分布函数族。P333当n=1时,得到一维分布函数F(x;t)=P{X(t)≤x},一维分布函数的全体{F(x;t),t∈T}称为一维分布函数族.2.随机过程的数字特征①函数TttXEtX)],([)(为{X(t),tT}的均方值函数.)]([)(tXEtX22为{X(t),tT}的方差函数.)]([)()(tXDtDtXX2为{X(t),tT}的自协方差函数.)]()()][()([))(),((),(ttXssXEtXsXCovtsCXXX为{X(t),tT}的均值函数.②③④⑤Rx(s,t)=E[X(s)X(t)]为{X(t),tT}的自相关函数,简称相关函数3.诸数字特征的关系:)()(),(),(),,()(tstsRtsCttRtXXXXXX2)()(),()(ttttCtXXXX222可见已知均值函数和自相关函数,其他特征就可以求出。1数学期望()[()](;)XXtEXtxfxtdx显然,是某一个平均函数,随机过程的诸样本在它的附近起伏变化,如图所示:()Xt物理意义:如果随机过程表示接收机的输出电压,那么它的数学期望就是输出电压的瞬时统计平均值。2均方值和方差随机过程在任一时刻t的取值是一个随机变量。我们把二阶原点矩称为随机过程的均方值,把二阶中心矩记作随机过程的方差。即:)(tX)(tX)(tXdxtxfxtXEtXX);()]([)(222222()[()][()][(()())]XXtDXtEXtEXtt222()[()]()XXtEXtt且物理意义:如果表示噪声电压,则均方值和方差分别表示消耗在单位电阻上的瞬时功率统计平均值和瞬时交流功率统计平均值。)(tX)]([2tXE)]([tXD标准差或均方差:)()]([ttXDX=3自相关函数先比较具有相同数学期望和方差的两个随机过程。自相关函数用来描述随机过程任意两个时刻的状态之间的内在联系,通常用描述。),(21ttRX)]()([),(2121tXtXEttRX21212121),;,(dxdxttxxfxxX当t1=t2时,自相关函数就是均方值。4自协方差函数若用随机过程的两个不同时刻之间的二阶混合中心矩来定义相关函数,我们称之为自协方差。用表示,它反映了任意两个时刻的起伏值之间相关程度。12(,)XCtt1212(,)[()()]XCttEXtXt1122[(()())(()())]XXEXttXtt1,21,2112212[()][()](;)XXxtxtfxxttdxdx比较自协方差和自相关函数的关系12122112[()()]()[()]()[()]()()XXXXEXtXttEXttEXttt1212(,)()()XXXRtttt比较自协方差和方差的关系212(,)(,)[(()())]XXXCttKttEXtt)()]([2ttXDXttt21令则121122(,)[(()())(()())]xXXCttEXttXtt二阶矩过程:若随机过程X(t)各时刻的均值和方差存在(总功率存在)则称为二阶矩过程。P336例1:设随机过程X(t)=Ycosωt+Zsinωt,t≥0,其中Y,Z是相互独立的随机变量,且E(Y)=E(Z)=0,D(Y)=D(Z)=2,求{X(t),t≥0}均值函数x(t)和自相关函数Rx(s,t)。解:x(t)=E[X(t)]=E[Ycosωt+Zsinωt]=cosωtE(Y)+sinωtE(Z)=0,因为Y与Z相互独立,于是]sincos][sincos[)]()([),(tZtYsZsYEtXsXEtsRX)(sinsin)(coscos22ZEtsYEts)(cos2st例2:考虑随机过程X(t)=acos(ωt+Θ),t(-∞,+∞)其中a和ω是常数,Θ是在(0,2π)上服从均匀分布的随机变量,通常称此随机过程为随机相位正弦波,求随机相位正弦波的均值函数,方差函数和自相关函数.解:Θ的概率密度为)2,0(0)2,0(21)(f于是02120dtataEtXEtX)cos()]cos([)]([)()]cos()cos([)]()([),(2tsaEtXsXEtsRX2202201coscos2coscos22astdsttsadstacos22在一个周期上积分为0.2)(),()(222atttRtXXX例3:设随机过程X(t)=Y+Zt,tT=(-∞,+∞),其中Y,Z是相互独立的服从N(0,1)的随机变量,求{X(t),-∞t+∞}的一,二维概率密度。解:tT,由正态分布的性质知X(t)服从正态分布:E[X(t)]=E(Y)+tE(