随机过程知识点汇总

第一章随机过程的基本概念与基本类型一．随机变量及其分布1．随机变量X，分布函数)()(xXPxF离散型随机变量X的概率分布用分布列)(kkxXPp分布函数kpxF)(连续型随机变量X的概率分布用概率密度)(xf分布函数xdttfxF)()(2．n维随机变量),,,(21nXXXX其联合分布函数),,,,(),,,()(221121nnnxXxXxXPxxxFxF离散型联合分布列连续型联合概率密度３．随机变量的数字特征数学期望：离散型随机变量XkkpxEX连续型随机变量XdxxxfEX)(方差：222)()(EXEXEXXEDX反映随机变量取值的离散程度协方差（两个随机变量YX,）：EYEXXYEEYYEXXEBXY)()])([(相关系数（两个随机变量YX,）：DYDXBXYXY若0，则称YX,不相关。独立不相关0４．特征函数)()(itXeEtg离散kitxpetgk)(连续dxxfetgitx)()(重要性质：1)0(g，1)(tg，)()(tgtg，kkkEXig)0(５．常见随机变量的分布列或概率密度、期望、方差０－１分布qXPpXP)0(,)1(pEXpqDX二项分布knkknqpCkXP)(npEXnpqDX泊松分布!)(kekXPkEXDX均匀分布略正态分布),(2aN222)(21)(axexfaEX2DX指数分布0,00,)(xxexfx1EX21DX６．Ｎ维正态随机变量),,,(21nXXXX的联合概率密度),(~BaNX)}()(21exp{||)2(1),,,(121221axBaxBxxxfTnn),,,(21naaaa，),,,(21nxxxx，nnijbB)(正定协方差阵二．随机过程的基本概念１．随机过程的一般定义设),(P是概率空间，T是给定的参数集，若对每个Tt，都有一个随机变量X与之对应，则称随机变量族TtetX),,(是),(P上的随机过程。简记为TttX),(。含义：随机过程是随机现象的变化过程，用一族随机变量才能刻画出这种随机现象的全部统计规律性。另一方面，它是某种随机实验的结果，而实验出现的样本函数是随机的。当t固定时，),(etX是随机变量。当e固定时，),(etX时普通函数，称为随机过程的一个样本函数或轨道。分类：根据参数集T和状态空间I是否可列，分四类。也可以根据)(tX之间的概率关系分类，如独立增量过程，马尔可夫过程，平稳过程等。２．随机过程的分布律和数字特征用有限维分布函数族来刻划随机过程的统计规律性。随机过程TttX),(的一维分布，二维分布，…，n维分布的全体称为有限维分布函数族。随机过程的有限维分布函数族是随机过程概率特征的完整描述。在实际中，要知道随机过程的全部有限维分布函数族是不可能的，因此用某些统计特征来取代。（１）均值函数)()(tEXtmX表示随机过程TttX),(在时刻t的平均值。（２）方差函数2)]()([)(tmtXEtDXX表示随机过程在时刻t对均值的偏离程度。（３）协方差函数)()()]()([))]()())(()([(),(tmsmtXsXEtmtXsmsXEtsBXXXXX且有)(),(tDttBXX（４）相关函数)]()([),(tXsXEtsRX(3)和(4)表示随机过程在时刻s，t时的线性相关程度。（５）互相关函数：TttX),(，TttY),(是两个二阶距过程，则下式称为它们的互协方差函数。)()()]()([))]()())(()([(),(tmsmtYsXEtmtYsmsXEtsBYXYXYX，那么)]()([),(tYsXEtsRXY，称为互相关函数。若)()()]()([tmsmtYsXEYX，则称两个随机过程不相关。３．复随机过程tttjYXZ均值函数ttZjEYEXtm)(方差函数]))(())([(|])([|)(2tmZtmZEtmZEtDZtZtZtZ协方差函数)()(][]))(())([(),(tmsmZZEtmZsmZEtsBZZtsZtZsZ相关函数][),(tsZZZEtsR４．常用的随机过程（１）二阶距过程：实（或复）随机过程TttX),(，若对每一个Tt，都有2)(tXE（二阶距存在），则称该随机过程为二阶距过程。（2）正交增量过程：设TttX),(是零均值的二阶距过程，对任意的Ttttt4321，有0]))()(())()([(3412tXtXtXtXE，则称该随机过程为正交增量过程。其协方差函数)),(min(),(),(2tstsRtsBXXX（3）独立增量过程：随机过程TttX),(，若对任意正整数2n，以及任意的Ttttn21，随机变量)()(,),()(),()(13412nntXtXtXtXtXtX是相互独立的，则称TttX),(是独立增量过程。进一步，如TttX),(是独立增量过程，对任意ts，随机变量)()(sXtX的分布仅依赖于st，则称TttX),(是平稳独立增量过程。（4）马尔可夫过程：如果随机过程TttX),(具有马尔可夫性，即对任意正整数n及Ttttn21，0))(,,)((1111nnxtXxtXP，都有111111)()()(,,)()(nnnnnnnnxtXxtXPxtXxtXxtXP，则则称TttX),(是马尔可夫过程。（5）正态过程：随机过程TttX),(，若对任意正整数n及Ttttn,,,21，（)()(),(21ntXtXtX）是n维正态随机变量，其联合分布函数是n维正态分布函数，则称TttX),(是正态过程或高斯过程。（6）维纳过程：是正态过程的一种特殊情形。设ttW),(为实随机过程，如果，①0)0(W；②是平稳独立增量过程；③对任意ts,增量)()(sWtW服从正态分布，即0),0(~)()(22stNsWtW。则称ttW),(为维纳过程，或布朗运动过程。另外：①它是一个Markov过程。因此该过程的当前值就是做出其未来预测中所需的全部信息。②维纳过程具有独立增量。该过程在任一时间区间上变化的概率分布独立于其在任一的其他时间区间上变化的概率。③它在任何有限时间上的变化服从正态分布，其方差随时间区间的长度呈线性增加。（7）平稳过程：严（狭义）平稳过程：TttX),(，如果对任意常数和正整数n及Ttttn,,,21，Ttttn,,,21，（)()(),(21ntXtXtX）与（)()(),(21ntXtXtX）有相同的联合分布，则称TttX),(是严（狭义）平稳过程。广义平稳过程：随机过程TttX),(，如果①TttX),(是二阶距过程；②对任意的Tt，常数)()(tEXtmX；③对任意Tts，，)()]()([),(stRtXsXEtsRXX，或仅与时间差st有关。则满足这三个条件的随机过程就称为广义平稳过程，或宽平稳过程，简称平稳过程。第三章泊松过程一．泊松过程的定义（两种定义方法）１，设随机计数过程(),0Xtt，其状态仅取非负整数值，若满足以下三个条件，则称：TttX),(是具有参数的泊松过程。①(0)0X；②独立增量过程，对任意正整数n，以及任意的Ttttn21)()(,),()(),()(12312nntXtXtXtXtXtX相互独立，即不同时间间隔的计数相互独立；③在任一长度为t的区间中，事件Ａ发生的次数服从参数0t的的泊松分布，即对任意,0ts，有()()()0,1,!nttPXtsXsnenn[()]EXtt，[()]EXtt，表示单位时间内时间Ａ发生的平均个数，也称速率或强度。２，设随机计数过程(),0Xtt，其状态仅取非负整数值，若满足以下三个条件，则称：(),0Xtt是具有参数的泊松过程。①(0)0X；②独立、平稳增量过程；③()()1()()()2()PXthXthohPXthXtoh。第三个条件说明，在充分小的时间间隔内，最多有一个事件发生，而不可能有两个或两个以上事件同时发生，也称为单跳性。二．基本性质１，数字特征()[()][()]XmtEXttDXt(1)(,)(1)XststRsttsst(,)(,)()()min(,)XXXXBstRstmsmtst推导过程要非常熟悉２，nT表示第1n事件Ａ发生到第n次事件发生的时间间隔，,1nTn是时间序列，随机变量nT服从参数为的指数分布。概率密度为,0()0,0tetftt，分布函数1,0()0,0ntTetFtt均值为1nET证明过程也要很熟悉到达时间的分布略三．非齐次泊松过程到达强度是t的函数①(0)0X；②独立增量过程；③()()1()()()()2()PXthXtthohPXthXtoh。不具有平稳增量性。均值函数0()[()]()tXmtEXtsds定理：(),0Xtt是具有均值为0()()tXmtsds的非齐次泊松过程，则有[()()]()()exp[()()]!nXXXXmtsmtPXtsXtnmtsmtn四．复合泊松过程设(),0Ntt是强度为的泊松过程，,1,2,kYk是一列独立同分布的随机变量，且与(),0Ntt独立，令()1()NtkkXtY则称(),0Xtt为复合泊松过程。重要结论：(),0Xtt是独立增量过程；若21()EY，则1[()]()EXttEY，21[()]()DXttEY第四章马尔可夫链泊松过程是时间连续状态离散的马氏过程，维纳过程是时间状态都连续的马氏过程。时间和状态都离散的马尔可夫过程称为马尔可夫链。马尔可夫过程的特性：马尔可夫性或无后效性。即：在过程时刻0t所处的状态为已知的条件下，过程在时刻0tt所处状态的条件分布与过程在时刻0t之前所处的状态无关。也就是说，将来只与现在有关，而与过去无关。表示为111111)()()(,,)()(nnnnnnnnxtXxtXPxtXxtXxtXP一．马尔可夫链的概念及转移概率1．定义：设随机过程,nXnT，对任意的整数nT和任意的011,,,niiiI，条件概率满足11001111,,,nnnnnnnnPXiXiXiXiPXiXi，则称,nXnT为马尔可夫链。马尔可夫链的统计特性完全由条件概率11nnnnPXiXi所决定。2．转移概率1nnPXjXi相当于随机游动的质点在时刻n处于状态i的条件下，下一步转移到j的概率。记为()ijpn。则()ijpn1nnPXjXi称为马尔可夫链在时刻n的一步转移概率。若齐次马尔可夫链，则()ijpn与n无关，记为ijp。[],1,2,ijPpijII称为系统的一步转移矩阵。性质：每个元素0ijp，每行的和为1。3．n步转移概率()nijp=mnmPXjXi；()()[],1,2,nnijPpijII称为n步转移矩阵。重要性质：①()()()nlnlijikkjkIppp称为CK方程，证明中用到条件概率的乘法公式、马尔可夫性、齐次性。掌握证明方法