随机过程讲义(中文版-杨广宇)

0-1随机过程:课程介绍0Lecture0日期:2011-08-29作者:杨广宇课程名称：随机过程教师：杨广宇;email:[e-mail]助教：???.教材：《随机过程》，S.M.劳斯，何声武、谢盛荣、程依明译，史定华校，中国统计出版社，1997.课程介绍：随机的想法已经渗透到科学的各个角落，随机过程的研究对象一般为随时间变化的随机现象，通常被视为概率论的动态部分.概率论和随机过程在经济规律的定量分析中，已经得到广泛应用，是现代金融理论的基本工具，也是金融分析中经常使用的数学工具，在现代金融及其衍生市场起着重要的作用，尤其是期权定价模型的出现使得期权这一衍生工具有章可循.本课程主要讲述随机过程的基本理论和方法，介绍金融学中几类常用的随机模型：随机游动、泊松过程、Markov过程、鞅、布朗运动以及随机积分.并适当介绍一些金融模型，以突出随机过程的基本概念和方法在金融学中的应用和对金融现象的描述.本课程不要求测度论知识，若已修过实变函数，可能会有助于更好的理解所讲内容.先修课程：微积分，线性代数，概率论以及数理统计。参考教材：1.《随机过程导论》，G.F.Lawler，张景肖译，机械工业出版社，2010.2.《金融随机分析》，S.E.Shreve，陈启宏、陈迪华译，上海财经大学出版社.3.《AFirstCourseinStochasticProcesses》，Karlin&Taylor著.4.《随机游动与鞅》，应坚刚.5.《概率论及其应用》，W.Feller，胡迪鹤译，人民邮电出版社.最终成绩=平时作业（30%）+期中考试（20%）+期末考试（50%）.基本要求：诚实，守信.作业不容许抄袭，可以进行分组相互讨论，但最后提交的必须注明是你自己的，过期不再收作业！目录1-1随机过程:引论及预备知识1Lecture1日期:2011-12-26作者:杨广宇摘要作为预备知识，本讲主要回顾了该课程所需要的概率论的一些基本知识，包括概率空间、随机变量及其分布、期望与条件期望、随机变量的概率生成函数、特征函数和矩母函数，以及一些基本的极限定理，譬如Borel-Cantelli引理、各种各样的收敛性及其相互关系、Chebyshev、Markov不等式以及大数定律和中心极限定理等.最后简单介绍了随机过程的初步知识，譬如随机过程的分类、有限维分布族、鞅和马氏过程等基本概念.目录1概率空间1-22随机变量及其分布1-43期望与条件期望1-74生成函数、特征函数及Laplace变换1-135收敛性、不等式及几个极限定理1-146随机过程初识1-156.1随机过程的概念...................................1-156.2随机过程的刻画...................................1-166.3随机过程的分类...................................1-171概率空间1-21概率空间样本空间Ω：随机试验的所有可能结果之全体.σ-代数F：感兴趣的事件之全体.概率测度P：满足某种性质的F到[0;1]上的非负集函数.定义1设样本空间Ω为非空集合，F为Ω的子集所组成的集合，称F为σ-代数，如果(1)空集Ø∈F,(2)若A∈F，则Ac∈F,(3)若A1;A2;:::;∈F，则∪∞n=1An∈F.注记2由DeMorgan对偶律知道(3)等价于：若A1;A2;:::;∈F，则∩∞n=1An∈F.称二元组(Ω;F)为可测空间.注记3集合，线性空间，拓扑空间，可测空间.容易知道σ-代数的交集仍然为σ-代数，所以我们可以定义集族生成的σ-代数：定义4设样本空间Ω为非空集合，Aα⊂Ω;α∈Γ，其中Γ为一指标集，称如下σ-代数为{Aα}生成的σ-代数，F:=σ(Aα;α∈Γ)=∩{G:Aα∈G;α∈Γ;G为σ-代数}注记5不同的集族可能生成同样的σ-代数，譬如若Ω={1;2;3}，有σ({1})=σ({2;3})={Ø;{1};{2;3};{1;2;3}}:例6(Borelσ-代数)设Ω=S为拓扑空间，则由S上所有开集（拓扑）生成的σ-代数称为S上Borelσ-代数，记为BS:=σ{O⊂S:O为开集}.习题7设F={A⊂Ω:A可数的或Ac可数的}，试证明F是σ-代数.习题8设(R;BR)为可测空间，试证明BR=σ{O⊂S:O为开集}=σ{(a;b):a;b∈R}=σ{(−∞;a]:a∈R}:定义9设(Ω;F)为可测空间，称函数P:F→[0;1]为该可测空间上的概率测度，若(1)P(Ω)=1;P(Ø)=0,(2)若A1;A2;:::∈F并且Ai∩Aj=Ø;i̸=j，则P(∪An)=∑nP(An).此时称三元组(Ω;F;P)为概率空间.1概率空间1-3习题10(概率的基本性质)(1)若A;B∈F，A⊂B，则P(A)≤P(B)；(2)若An∈F;n≥1，则P(∪∞n=1An)≤∑∞n=1P(An)；(3)若A1⊂A2⊂:::，An∈F;n≥1，记A=∪∞n=1An:=limn→∞An，则P(A)=P(∪∞n=1An)=P(limn→∞An)=limn→∞P(An):(4)若A1⊃A2⊃:::，An∈F;n≥1，记A=∩∞n=1An:=limn→∞An，则P(A)=P(∩∞n=1An)=P(limn→∞An)=limn→∞P(An):例11(灭绝概率)考虑一个种群，他由能够产生同类后代的个体所构成.初始个体个数用随机变量X0表示，第0代的全体后代构成第一代，其总数用X1表示.一般地，用Xn表示第n代总体的个数.由于事件{Xn=0}蕴含事件{Xn+1=0}，所以由概率的连续性知道limn→∞P({Xn=0})=P(limn→∞{Xn=0})=P(∪∞n=1{Xn=0})=P(种群迟早灭绝):我们将在研究分支过程模型时详细讨论种群的灭绝概率问题.引理12(Borel-Cantelli)设An∈F;n≥1为一列事件，若∑nP(An)∞，则P(无穷多个An发生)=P(∩∞n=1∪∞i=nAi)=0:证明:因为对n≥1，∪∞i=nAi是单减事件列，所以由概率的连续性P(∩∞n=1∪∞i=nAi)=P(limn→∞∪∞i=nAi)=limn→∞P(∪∞i=nAi)≤limn→∞∞∑i=nP(Ai)=0:2引理13(Borel-Cantelli)设An∈F;n≥1为一列相互独立的事件，若∑nP(An)=∞，则P(无穷多个An发生)=P(∩∞n=1∪∞i=nAi)=1:证明:P(∩∞n=1∪∞i=nAi)=P(limn→∞∪∞i=nAi)=limn→∞P(∪∞i=nAi)=limn→∞[1−P(∩∞i=nAci)]:由独立性P(∩∞i=nAci)=∞∏i=nP(Aci)=∞∏i=n[1−P(Ai)]≤∞∏i=ne−P(Ai)=e−∑∞i=nP(Ai)→0:这里用到了初等不等式1−x≤e−x.结合上式，引理证毕.22随机变量及其分布1-4例14(A)设X1;X2;:::为一随机变量序列，其分布为P(Xn=0)=1n2=1−P(Xn=1);n≥1:若记An={Xn=0}，则有∑∞n=1P(An)=π2=6∞，所以由Borel-Cantelli引理知道P(无穷多个An发生)=0，也即P(∪∞n=1∩∞i=nAcn)=1，就是说当n充分大时Xn必定为1，即P(limn→∞Xn=1)=1.(B)设X1;X2;:::为相互独立的随机变量序列，其分布为P(Xn=0)=1n=1−P(Xn=1);n≥1:若记An={Xn=0}，则有∑∞n=1P(An)=∞，所以由Borel-Cantelli引理知道P(无穷多个An发生)=1，又∑∞n=1P(Acn)=∞，由Borel-Cantelli引理知道P(无穷多个Acn发生)=1，故而以概率1有无穷多个Xn为1以及有无穷多个Xn为0，所以Xn的极限不存在.例15(可数概率空间)当样本空间Ω为可数集时，取F=2Ω.对任意的ω∈Ω，对应有pω0，并且∑ω∈Ωpω=1，对任意的A⊂Ω，定义P(A)=∑ω∈Apω.则(Ω;F;P)为概率空间.设Ω为有限的样本空间，F=2Ω，令pω=|Ω|−1;ω∈Ω，定义P(A)=∑ω∈Apω，则P为计数测度（Ω上的均匀分布）.设Ω=Z+={0;1;2;:::}，F=2Ω，任意的k∈Z+，令pk=λkk!e−λ，其中λ0为参数，对任意的A⊂Ω，定义P(A)=∑ω∈Apω，则P为Poisson概率测度.习题16设X服从参数为λ的Poisson分布，试给出“X为偶数”发生的概率.例17(不可数概率空间)[0,1]上的均匀（Lebesgue）测度.首先定义闭区间[a,b]的概率测度为P([a;b])=L([a;b])=b−a.特别的单点集的概率测度为0，所以开区间和闭区间的概率测度相同，即P((a;b))=b−a.令[0;1]上σ-代数F=σ({F⊂[0;1]:F为闭区间})，因为任意的开区间总可以表示为一列闭区间的并(a;b)=∪n[a+n−1;b−n−1]，故F=B[0;1].由测度的Carath´eodory扩张定理可以给出概率空间([0;1];B[0;1];P=L).2随机变量及其分布定义18设(Ω;F)为概率空间，称函数X:Ω→R为随机变量，若对任意的B∈BR，X−1(B)={ω∈Ω:X(ω)∈B}∈F(∀x∈R，{ω∈Ω:X(ω)≤x}∈F).2随机变量及其分布1-5定义19设X是概率空间(Ω;F;P)上随机变量，对任意的B∈BR定义：µX(B)=P(ω:X(ω)∈B)，显然µX为可测空间(R;BR)上的概率测度，称之为随机变量X的分布.注记20随机变量具有分布，但分布和随机变量是不同的概念.不同的随机变量可以有相同的分布，同一个随机变量在不同的测度下可以有不同的分布.例21设概率空间([0;1];B[0;1];P=L).定义随机变量X(ω)=ω;Y(ω)=1−ω;ω∈Ω，则X的分布µX为均匀分布，µX([a;b])=P(ω:X(ω)∈[a;b])=P([a;b])=L([a;b])=b−a:随机变量Y虽然和X不同，但是它们的分布却相同，µY([a;b])=P(ω:Y(ω)∈[a;b])=P([1−b;1−a])=L([1−b;1−a])=b−a=µX([a;b]):若在可测空间([0;1];B[0;1])上重新定义一个概率测度˜P，˜P([a;b])=∫ba2ωdω=b2−a2:由Carath´eodory扩张定理给出概率空间([0;1];B[0;1];˜P).在该测度下，随机变量X不再是均匀分布，并且X和Y的分布也不再相同.习题22试给出随机变量X;Y在概率˜P下的分布.定义23设X是概率空间(Ω;F;P)上随机变量，对任意的x∈R，定义F(x)=P({ω:X(ω)≤x})，称F(x)为随机变量X的(累积)分布函数.注记24若知道随机变量的分布µX，则可知F(x)=µX((−∞;x])；若知道分布函数F(x)，则µX((a;b])=µX((−∞;b])−µX((−∞;a])=F(b)−F(a)，因为任意的闭区间[a;b]=∩∞n=1(a−n−1;b].由概率测度的连续性知µX([a;b])=limn→∞µX((a−n−1;b])=F(b)−limn→∞F(a−n−1):由测度扩张定理可以给出X的分布µX.例25(离散型随机变量和连续型随机变量)随机变量X称为离散型随机变量，若它可能取值的集合是可数的，令pi=P(X=xi);i≥1(分布列)，此时µX(A)=∑i:xi∈Api;F(x)=∑i:xi≤xpi:2随机变量及其分布1-6随机变量X称为连续型随机变量，若存在非负函数f(x)(概率密度函数)使得µX(A)=∫Af(x)dx;F(x)=∫x−∞f(y)dy:注意：分布函数连续，其对应的随机变量不一定是连续型随机变量.习题26试给出一个不是离散随机变量也不是连续随机变量的例子.例27(离散型分布)二项分布称随机变量X服从参数为n;p的二项分布，若P(X=k)=Cknpk(1−p)n−k;0≤k≤n:几何分布称随机变量