-整理版-全部的随机过程

随机过程第一章随机过程基本概念•自然界和现实生活中发生的现象一般分为两类现象，一类为确定性现象，另一类为不确定性现象。•何谓确定性现象呢？如果我们向上抛一支粉笔，则该粉笔必然下落；水在100℃必然会开；同性相斥，异性相吸等等，这类现象称为确定性现象。大学一二年级所学的微积学、代数、议程等主要是研究确定性现象。•对于确定性现象又可称为必然现象。必然现象的主要特点是条件和结果之间存在着必然联系，即条件具备，某种结果必然发生，因此我们可由条件预测结果。•而另一类现象在自然界社会工程中也是经常出现，即不确定性现象，又可称为随机现象，或偶然现象，其特点是条件和结果之间不存在的必然联系，无必然的因果关系，因此不能用必然条件的方法来加以定量研究。如，在相同条件抛同一枚硬币，其出现的结果可能有两种，正面或反面，但最终结果到底是正面还是反面不能预先断言。又如商店每天的营业额，一天中不同时刻的气温等这些现象都是不确定现象。由于不确定现象不存在因果关系，是不是它们就没有规律可研究呢？•事实上，人们经过长期实践研究后发现，虽然随机现象就每一次试验结果来说具有不确定性，但在相同条件下大量重复试验其结果就呈现出某种规律性，著名的蒲丰试验表明在相同条件下大量重复抛一枚硬币出现正面的次数大致等于出现反面的次数。•上述事实表明，随机现象从一次试验上看，似乎没有什么规律存在，但当它们大量出现时，从总体上讲却呈现出一种总体规律性，这就是统计规律，这种统计规律的存在，就是随机数学的研究基础。因此今后我们在随机数学中，一说“统计规律”时大家就要想到大量重复的试验。•概率统计随机过程就是研究随机现象是否具有统计规律性的一门数学学科。•统计方法的基本思想是从一组样本分析、判断整个系统的状态，或判定某一论断以多大的概率来保证其正确性，或算出发生错误判断的概率，简言之就是“由局部推测总体”，“由特殊来研究一般”，是归纳法的具体应力。为了研究随机现象，下面我们首先需要给出如下几个定义解释：随机试验：具有下述三个特点的试验称为随机试验。①可以在相同的条件下重复进行。②每次试验的可能结果不止一个，并且能事先确定试验的所有可能结果。③每次试验前不能确定哪个结果会出现。随机事件：随机试验的所有可能出现的结果。必然事件：随机试验中必然发生的事情。注意：必然事件和不可能事件不是随机事件，但为了今后讨论，我们把它作一种特殊的随机事件。•样本空间：随机试验中所有可能出现的结果(事件样本)，组成的集合叫做随机试验的样本空间，记为S。•随机变量：设E是随机试验，它的样本空间S={e}，如果对于每一个，都有一个实数X(e)与之对应，则X为定义在S上的随机变量。•有了随机变量我们就可以在一定的统计意义下，定量地用随机变量描述随机现象的变化规律，从而达到认识世界和改造世界的目的。•再者，引入了随机变量，我们可以利用数学分析的方法更好地研究随机现象。•由此我们可以简单的说概率统计的研究对象就是研究随机世界(空间)中随机变量的变化规律，为此我们自然需要考虑建立随机变量的“函数关系”，这个“函数关系”在随机数学中我们一般用随机变量的分布函数、或者分布律及数字特征等来描述。§1.1随机过程的概念引入•我们知道，在自然界中的变化过程可以广义地分为两类。一类为确定性过程，另一类为不确定性过程或随机过程。•何谓过程呢？通俗讲凡和时间有关的变化称为过程。•例如真空中的自巾落体运动，假定初速为零，则有21()02Xtgtt•这个函数关系确定了物体在任意时刻离开初点的精确位置，存在必然确定的因果关系，显然X与时间t有关，构成一个过程。这个过程我们把它称为确定性过程。另一类过程是没有确定的变化形式，没有必然的变化规律，如商店每天的营业额M，显然是一个不确定量即随机变量，进一步分析知该营业额M还和时间t有关，即M(t)，由此M构成一个过程，这里称这个过程为随机过程；•又如传呼台传呼小组每天接到传呼的次数，X显然不能确定，即为随机变量，进一步分析知这个X还和时间t有关，即X(t)，所以X(t)也构成一个过程，即随机过程；类似地，气温、气压、商店每天的顾客流量等都构成一个随机过程。下面我通过一个具体的过程实例来导出随机过程一般的数学定义。设有一电子直流放大器其中U(t)为输入信号，K为放大器，也表示对输入信号U(t)的放大倍数，X(t)为放后的输出信号。显然对于该放大器，当U(t)=0，也就是没有输入信号时，X(t)应为零，但是由于放大器内部元件以及外部电磁波等各种干挠的影响，使得当U(t)=0时，输出U(t)≠0，由此造成所谓的输出零点漂移。进一步分析发现这个输出零点漂移在相同条件，比如每天的某一时刻进行观测，如果我们观测是了n天，就可得n条输出零点漂移曲线，把这些曲作出，如图1.2所示。12(),(),,()nxtxtxt图1.2电子直流放大器的零点漂移•可以发现这些曲线形态不一样，即每条曲线各不相同，不能用统一的确定函数表示，但它们都是时间t的函数即零点漂移构成一个随机过程记为X(t)，也可以说这些曲线的全体（时间函数的全体）集合就构成了一个零点漂移随机过程，即X(t)={x1(t)…,xn(t)…}，其中每一曲线xi(t)又可称为随机过程的样本曲线函数（时间函数），i=1,2…,n…。显然，由图1.2所所示的在一次实验结果中，随机过程必取一个样本函数，但究竟取哪一个函数则在试验前不能确定，但是在大量的重复实验中，可知道随机过程呈现出统计规律性。因此直观地讲，随机过程既是时间t的函数，也是试验可能结果e的函数，记为X(t,e)。•进一步分析可以看出对于随机过程X(t)={x1(t)…}。•当我们取定t=ti时刻时有•由图1.2可以看出，取值各不相同，没有必然的规律。若把x1(ti),…,xn(ti)看成是随机过程X(t)在时刻ti的各种可能取值，很显然X(ti)是一个随机变量。1(){()()}iiniXtxtxt•在地震勘探工作中，我们通过检波器把混有随机干扰的随时间变动的地层结构信号记录下来，如图1.3所示。图1.3•在O点放炮，在A点记录仪把接收到的混有干扰的地震信号波记录下来，我们在相同条件下做了n次记录，则可得n个彼此有差异的地震波形（曲线）。如在时间t0观察它们的信号波的值X(t0)是一个随机变量，也就是说，混有随机干扰的地层结构信号波构成一个依赖于时间t的随机过程。•定义随机过程：设E是随机试验，它的样本空间是，若对于每一个，总有一个确定的时间函数与之对应。这样对于所有，就可能得到一族时间t的函数，称为随机过程，族中的每一个函数称为这个随机过程的样本函数。•由定义可知，对于一个特定的试验结果，总有一个确定时间函数。该函数是普通意义下确定的时间函数（样本函数），又由定义知，当取定与e有关，由于是一个随机变量，如果让变动，，可得一族随机变量。•因此从这个意义上讲随机过程又可看成是依赖于时间t的一族随机变量。由此可给出下面另一种形式的随机过程定义。为简便起见，省略e，用表示随机过程。如是对于每一给定的都是随机变量，则X(t)是一个随机过程。或者说，随机过程是依赖于时间的一族随机变量。随机过程的两种定义本质是一致的，一般在理论分析采用第二定义，在实际应用中采用第一定义。ieS(,)iXte(,)iittXte时,(,)iXte1,2(),(),,(,)iXteXteXteit1,2i§1.2随机过程的分类•1.按随机变量和指标集类型分类（1）连续型随机过程：对于随机过程X(t,e)，如果随机变量X(e)是连续变化的，也是连续变化的，则称X(t,e)为连续型随机过程。注意这里指标集为0≤t＜+∞，or。如正弦波随机过程。（2）离散型随机过程：对于随机过程，如果取值离散，而t是连续，则称为离散型随机过程，如电报信号过程。也可简单地说时间连续，状态离散。{,}Ttt()sin()Xtat（3）连续型随序列：对于随机过程，如果连续，而是离散变化，如或，则称为连续型随机序列，也就是时间离散，状态连续。（4）离散型随机序列：对于随机过程，如果状态离散，时间t也是离散，则称为离散型随机序列。注意，为了适应数字技术的需要，对连续型随机过程进行量化、分层，就得离散随机序列。如伯努力试验、随机游动等。(,)xte()xeeT{,2,0,,0,,2,}Tkkkk{0,2,}Tkk(,)Xte(,)Xte(,)Xte(,)Xte•2.按随机过程功能分类①平稳过程；②高斯过程；③马尔可夫过程；④二阶过程；⑤独立增量过程；⑥维也纳过程；⑦白噪声过程等。其它过程还很多，如泊松过程、分枝过程、更新过程、生灭过程等。§1.3随机过程的描述•我们知道概率统计的研究对象是随机变量的变化规律，由此我们需要建立随机变量的数学模型或称函数关系，这里函数关系在概率统计中就叫分布函数（或称概率密度函数）。类似的，随机过程也是要研究X(t)的变化规律，进而建立随机过程的数学模型或函数关系，下面我们来分析如何建立所谓随机过程的函数关系。•对于一个随机过程X(t)，严格地说我们不能在图上用一条曲线简单地表示一个过程，因为按随机过程的定义，该随机过程可表为：12(){(),(5),,(),}nXtxtxxt•为了研究随机过程的变化规律，我们暂且假定随机过程可以在图上用一条曲线来表示，如图1.4。•当然这条曲线不能作为具体的样本函数，而应把它看作全部可能样本函数的集合。图1.4•现在我们动用记录器来记录X(t)的变化过程，由于记录器不可能连续地记下过程，而只能记下过程X(t)在确定时刻下的状态。•前面已讲过，在确定的时刻t上，随机过程变成为通常的随机变量，于是记录器在时刻，就记录下相应的结果。显然，当记录器的速度相当快时，即时间间隔很小（或n很大）时，我们可用这n个随机变量的变化来描述随机过程的变化规律。•这样，在一定的近似程度下，我们可以通过研究多维随机变量的变化规律，即分布函数关系来代替研究随机过程的变化规律，由此进而建立起近似随机过程的数学模型。•定义一维分布函数：对于随机过程X(t)，当取定时，为随机变量，该随机变量X(t1)的分布函数记为则称为随机过程X(t)的一维分布函数。•同随机变量一样，若对x1的偏导数存在，则有1tT1()Xt1111(;){()}FxxtPXtx≤X11(;)FxtX11(;)Fxt11111(;)x(;)XFxtPxtxX11(;t)Px这里称为随机过程的一维概率密度。例1.1求随机过程的一维概率密度函数，式中是常数，x是一个服从标准正态分布的随机变量。•解对于任意取定时间是一个随机变量，由随机过程的一维分布函数及一维概率密度函数定义知•又∵()cosXtxt11,()costTXtxt111111(;)(())(cos)XFxtPXtxPxtx≤≤11cos1()()cosxtxPxfxdxt≤221~(0,1),()2xxNfxe即1111cos1111(;)(;)()xXtXFxtPxtfxdxxx11121111coscos111exp2coscos2xfttxtt注意，的二元函数，又可称为是时刻的状态1111(;),XFxtxt是1x1t11()xxt•结合概率统计知识，显然随机过程X(t)的一维分布函数、一维概率密度具有普遍随机变量分布函数和概率密度函数的各种性质。惟一的差别是随机过程的一维分布函数和一维密度都是时间t的函数，即是一个动态的分布函数和概率密度。•由上面的分布知随机过程的一维分布函数仅仅描述了随机过程X(t)在t=(t1)时刻所对应的一个状态X(t1)的变化规律。显然此时由随机过程的一维分布函数来近似描述X(t)的变化规律，其数学模型误差太大。•为了比较全面地描述随机过程X(t)的变化规律，我们引入随机过程的二维分布函数。定义随机过程的二维分布函数：•对于随机过程X(t)在任意两个时刻两个随机变量（两个状态），我们把这两个随