随机过程的基本概念和基本类型

第2章随机过程的基本概念和基本类型2.1基本概念在概率论中，我们研究了随机变量，n维随机向量。在极限定理中，我们研究了无穷多个随机变量，但局限在它们相互独立的情形。将上述情形加以推广，即研究一族无穷多个、相互有关的随机变量，这就是随机过程。定义2.1：设),,(P是一概率空间，对每一个参数Tt，),(tX是一定义在概率空间),,(P上的随机变量，则称随机变量族});,({TttXXT为该概率空间上的一随机过程。T称为参数集。随机过程的两种描述方法：用映射表示,TXRTtX:),(),(XT即是一定义在上的二元单值函数，,Tt),(tX固定是一定义在样本空间上的函数，即为一随机变量；对于固定的,0),(0tX是一个关于参数Tt的函数，或称随机过程的一次实现。记号通常称为样本函数，),(tX有时记为)(tX或简记为).(tX参数T一般表示时间或空间。参数常用的一般有：(1)(2)},2,1,0{T],[baT(3)},,2,1,0{0NT时间此时称之为随机序列或}0)({.nnX，随机序列写为序列}.,1,0,{nXn或.,0可以取或可以取其中ba当参数取可列集时，一般称随机过程为随机序列。随机过程});({TttX可能取值的全体所构成的集合称为此随机过程的状态空间，记作S.S中的元素称为状态。状态空间可以由复数、实数或更一般的抽象空间构成。同的类：的不同过程可以分成不和根据ST参数空间分类：}0|{}2,1,0{ttTT如连续参数如离散参数状态空间分类：取值是连续的连续状态取值是离散的离散状态SS随机过程分为以下四类：(1)离散参数离散型随机过程；(2)连续参数离散型随机过程；(3)连续参数连续型随机过程；(4)离散参数连续型随机过程。以随机过程的统计特征或概率特征的分类，一般有：独立增量过程；Markov过程；二阶矩过程；平稳过程；更新过程；Poission过程；维纳过程。鞅；随机过程举例例2.1.)()(,1机游动就是直线上的随时刻在路上的位置，则他在记以相同）后退一步（假设其步长以概率前进一步，概率一醉汉在路上行走，以随机游动：tXttXpp例2.2抛掷一枚硬币，样本空间为},{THS定义：时当出现，时当出现T2H,cos)(tttX),(t,2/1}{}{TPHP其中是一则)},(,)({ttX随机过程。例2.3运动。则它是平面上的位置，为粒子在平面坐标上的碰撞的结果。记动。同时分子大量随机运来称为则的运动，这种运动后子不断进行无规漂浮在液面上的微小粒注意到英国植物学家运动：BrowntYtXBrownBrownBrown))(),((2.2有限维分布与Kolmogvrov定理一、随机过程的分布函数1.一维分布函数是一随机过程，称设)(tX})({),()(xtXPxtFxFt.)}({的一维分布函数称为tX,0),(xtf若xtdyytfxtFxF-),(),()(使得.)}({),(的一维概率密度为则称tXxtf2.二维分布函数}),())(),({(2121TtttXtX设二维随机向量})(,)({),,,(),(2211212121,21xtXxtXPxxttFxxFtt.),,,(2121为二维概率密度—则称—xxttf的分布函数。—称为二维随机向量—))(),((21tXtX,0),,,(2121xxttf若),,,(),(212121,21xxttFxxFtt21-212112),,,(dydyyyttfxx3.n维分布函数.),,;,,(11维概率密度为—则称—nxxttfnn的联合分布函数为维随机向量))(,),(),((21ntXtXtXn),,;,,(),,(111,,1nnnttxxttFxxFn})(,,)({11nnxtXxtXP,0),,;,,(11nnxxttf若),,;,,(),,(111,,1nnnttxxttFxxFnnxxnndydyyyttfn1-111),,;,,(.))(,),(),((21维分布函数的维随机向量称为ntXtXtXnn4.有限维分布族),,(1,,1nttxxFn})(,,)({11nnxtXxtXP:维分布函数的全体，一维、二维，n——称为有限维分布族}1,,,),,({11,,1nTttxxFnnttn，5.有限维分布族的性质(1)对称性),,;,,(),,(1111,,nnnnjjjjjjjjttxxttFxxF})(,,)({11nnjjjjxtXxtXP),,;,,(11nnxxttF(2)相容性有对于nm),,,,,(1,,,,,11mttttxxFnjmjmjj),,(1,,1mttxxFmjj注1：随机过程的统计特性完全由它的有限维分布族决定。注2：有限维分布族与有限维特征函数族相互唯一确定。问题：一个随机过程是否描述了该过程的全部概率特性？});({TttX的有限维分布族，定理：（Kolmogorov存在性定理）设分布函数族}1,,,),,({11,,1nTttxxFnnttn，满足以上提到的对称性和相容性，则必有一随机过程，});({TttX}1,,,),,({11,,1nTttxxFnnttn，使恰好是});({TttX的有限维分布族，即：),,(1,,1nttxxFn})(,,)({11nnxtXxtXP定理说明：});({TttX});({TttX的有限维分布族包含了的所有概率信息。例2.4对应随机变量一个确定的任取一球后放回，对每袋中红球，每隔单位时间从袋中有一个白球，两个t时取得白球如果对时取得红球如果对tetttXt3)(.维分布函数族试求这个随机过程的一例2.5是相同的。设出现正面反面的概率出现反面，出现正面义一个随机过程利用抛掷硬币的试验定RttttX2,cos)(.).1;()21;()()2()()1(11xFxFtXtX和的以为分布函数写出）；的所有样本函数（实现写出特征。来刻画随机过程的概率征了用随机过程的某些特能的。因此，人们想到可全部有限维分布族是不中，要知道随机过程的题完整描述，但在实际问是随机过程概率特征的有限维分布族定理说明，随机过程的Kolmogorov二、随机过程的数字特征1.均值函数随机过程});({TttX（假设是存在的）的均值函数定义为：)}({)(ˆ)(tXEtmtX的摆动中心。）在时刻平均，它表示随机过程的函数值的的所有样本函数在时刻是注：ttXttXtm()()(2.方差函数随机过程});({TttX的方差函数定义为：})]()({[})]()({[))((22tmtXEttXEtXDX的偏离程度。对于均值在各个时刻表示）均方差函数：注)()()((1tmttXtDt3.(自)协方差函数是二阶矩过程。称若：注)}({,)]([,22tXtXETt的二阶中心混合矩，的状态，)()(,)(2121tXtXTtttX)]}()()][()({[ˆ),(221121tmtXtmtXEttX协方差函数。的自协方差函数，简称——)(tX时，当21tt),()]([)]([tttXVartXDX2)]()([tmtXE2))](()([tXEtXE22))](([)]([tXEtXE4.(自)相关函数的二阶原点混合矩，的状态，)()(,)(2121tXtXTtttX)]()([ˆ),(2121tXtXEttRX关函数。的自相关函数，简称相——)(tX时，当：注0)()]([1tmtXE),(),(2121ttttRXX)()(-),(),(2212121tmtmttRttXX：注时的线性相关程度。和时刻在反映了随机过程及：注212121)(),(),(3tttXttRttXX们的线性关系。或互相关函数来描述它，要引进互协方差函数对两个随机过程的关系：注45.(互)协方差函数则称是两个二阶矩过程，，，，设})({})({TttYTttX)]}()()][()({[ˆ),(221121tmtYtmtXEttYXXY的互协方差函数。，——)()(tYtX)]([)()],([)(tYEtmtXEtmYX其中：6.互相关函数)]()([ˆ),(2121tYtXEttRXY的互相关函数。，——)()(tYtX)()(-),(),(212121tmtmttRttYXXYXY注：7.互不相关0),(21ttXY若互不相关。，—称—)()(tYtX互不相关，则注：若)(),(tYtX)()(),(2121tmtmttRYXXY)]([)]([)]()([2121tYEtXEtYtXE即8.特征函数)]}}()([{exp{ˆ),,,;,,,(112121nnnnXtXutXuiEtttuuu1,,,,),,,,;,,,(212121nTttttttuuunnnX称为随机过程});({TttX的有限维特征函数族。记：例2.6.321.5)(5)(2cos)(）方差函数）协方差函数；（）均值函数；（（求：，是随机变量，且，其中设随机过程UDUEUtUtX例2.7数。试求它们的互协方差函随机变量，且是其中，设有两个随机过程.5)(,)()(32UDUUttYUttX作业1为多少？及则且立相互独若数的均值函数和自相关函，试求随机过程是两个随机变量设),()(),2,0(~),4,1(~,,.),(3)(,,21ttRtmUBNABATtBAttXBAXX2.3随机过程的基本类型一、严平稳过程定义1：),,2,1},)({nnTttX（若对，设随机过程相同的分布函数，即有和时，，当和任意实数))(,),(())(,),((,,,,1111nnnntXtXtXtXTttTtt),,;,,(11nnxxttF})(,,)({11nnxtXxtXP})(,,)({11nnxtXxtXP),,;,,(11nnxxttF.})({称为严平稳过程，则TttX:T平稳过程的参数},2,1,0{},,2,1,0{),(),,0[tt如可以是离散的，如可以是连续的，二、严平稳过程的特点无关；与的一维概率密度严平稳过程txtftX);()(.1而与时间的起点无关。有关，仅与二维概率密度212121),;,(ttxxttf矩若严平稳过程存在二阶.2）均值函数为常数：（1mtXEtm)]([)(),)]([(2tXE即则.),()(),,(2212121的函数仅是时间差相关函数自协方差函数）（ttttRttXX三、宽平稳过程(简称平稳过程)定义2：如果它满足：，设随机过程},)({TttX是二阶矩过程；）（)(1tX))]([(2tXE即所以二阶矩存在）均值函数为常数：（2;)]([)(mtXEtm即.),()(),,(3212121ttttRttXX仅依赖于时间差相关函数自协方差函数）（.)(平稳过程为宽平稳过程，或二阶则称tX.)}({为平稳时间序列为整数集时，称当tXT注1：平稳过程。严平稳过程不一定是宽.一定是宽平稳过程过程存在二阶矩，则它平稳定是二阶矩过程。若严因为：严平稳过程不一注2：严平稳过程。宽平稳过程也不一定是间而推移。随时能保证其有限维分布不推移而改变，这当然不间的证一阶矩二阶矩不随时因为：宽平稳过程只保例2.8的平稳性。试讨论且均值和方差分别为其中机变量序列是相互独立同分布的随设)(,)]([,0)]([},,2