马氏链模型及matlab程序

一、用法，用来干什么，什么时候用二、步骤，前因后果，算法的步骤，公式三、程序四、举例五、前面国赛用到此算法的备注一下马氏链模型用来干什么马尔可夫预测法是应用概率论中马尔可夫链（Markovchain）的理论和方法来研究分析时间序列的变化规律，并由此预测其未来变化趋势的一种预测技术。什么时候用应用马尔可夫链的计算方法进行马尔可夫分析，主要目的是根据某些变量现在的情况及其变动趋向，来预测它在未来某特定区间可能产生的变动，作为提供某种决策的依据。马尔可夫链的基本原理我们知道，要描述某种特定时期的随机现象如某种药品在未来某时期的销售情况，比如说第n季度是畅销还是滞销，用一个随机变量Xn便可以了，但要描述未来所有时期的情况，则需要一系列的随机变量X1，X2，…，Xn，…．称{Xt，t∈T，T是参数集}为随机过程，{Xt}的取值集合称为状态空间．若随机过程{Xn}的参数为非负整数，Xn为离散随机变量，且{Xn}具有无后效性（或称马尔可夫性），则称这一随机过程为马尔可夫链（简称马氏链）．所谓无后效性，直观地说，就是如果把{Xn}的参数n看作时间的话，那么它在将来取什么值只与它现在的取值有关，而与过去取什么值无关．对具有N个状态的马氏链，描述它的概率性质，最重要的是它在n时刻处于状态i下一时刻转移到状态j的一步转移概率：NjinpiXjXPjinn,,2,1,)()|(1若假定上式与n无关，即)()1()0(npppjijiji，则可记为jip（此时，称过程是平稳的），并记NNNNNNpppppppppP212222111211（1）称为转移概率矩阵．转移概率矩阵具有下述性质：（1）Njipji,,2,1,,0．即每个元素非负．（2）NipNjji,,2,1,11．即矩阵每行的元素和等于1．如果我们考虑状态多次转移的情况，则有过程在n时刻处于状态i，n+k时刻转移到状态j的k步转移概率：NjinpiXjXPkjinkn,,2,1,)()|()(同样由平稳性，上式概率与n无关，可写成)(kjip．记)()(2)(1)(2)(22)(21)(1)(12)(11)(kNNkNkNkNkkkNkkkpppppppppP（2）称为k步转移概率矩阵．其中)(kjip具有性质：Njipkji,,2,1,,0)(；NipNjkji,,2,1,11)(．一般地有，若P为一步转移矩阵，则k步转移矩阵)()(2)(1)(2)(22)(21)(1)(12)(11)(kNNkNkNkNkkkNkkkpppppppppP（3）（2）状态转移概率的估算在马尔可夫预测方法中，系统状态的转移概率的估算非常重要．估算的方法通常有两种：一是主观概率法，它是根据人们长期积累的经验以及对预测事件的了解，对事件发生的可能性大小的一种主观估计，这种方法一般是在缺乏历史统计资料或资料不全的情况下使用．二是统计估算法，现通过实例介绍如下．例3记录了某抗病毒药的6年24个季度的销售情况，得到表1．试求其销售状态的转移概率矩阵．表1某抗病毒药24个季度的销售情况季度销售状态季度销售状态季度销售状态季度销售状态11(畅销)71(畅销)131(畅销)192(滞销)21(畅销)81(畅销)141(畅销)201(畅销)32(滞销)91(畅销)152(滞销)212(滞销)41(畅销)102(滞销)162(滞销)221(畅销)52(滞销)111(畅销)171(畅销)231(畅销)62(滞销)122(滞销)181(畅销)241(畅销)分析表中的数据，其中有15个季度畅销，9个季度滞销，连续出现畅销和由畅销转入滞销以及由滞销转入畅销的次数均为7，连续滞销的次数为2．由此，可得到下面的市场状态转移情况表（表2）．表2市场状态转移情况表下季度药品所处的市场状态1（畅销）2（滞销）本季度药品所1（畅销）77处的市场状态2（滞销）72现计算转移概率．以频率代替概率，可得连续畅销的概率：1170.5151p连续出现畅销的次数出现畅销的次数分母中的数为15减1是因为第24季度是畅销，无后续记录，需减1．同样得由畅销转入滞销的概率：1270.5151p畅销转入滞销的次数出现畅销的次数滞销转入畅销的概率：2170.789p滞销转入畅销的次数出现滞销的次数连续滞销的概率：2220.229p连续滞销的次数出现滞销的次数综上，得销售状态转移概率矩阵为：22.078.05.05.022211211ppppP从上面的计算过程知，所求转移概率矩阵P的元素其实可以直接通过表2中的数字计算而得到，即将表中数分别除以该数所在行的数字和便可：77711p77712p27721p77222pMatlab程序：formatratclca=[112122111212,112211212111];fori=1:2forj=1:2f(i,j)=length(findstr([ij],a));endendfni=(sum(f'))'fori=1:2p(i,:)=f(i,:)/ni(i);endp由此，推广到一般情况，我们得到估计转移概率的方法：假定系统有m种状态S1，S2，…，Sm，根据系统的状态转移的历史记录，得到表3的统计表格，以jipˆ表示系统从状态i转移到状态j的转移概率估计值，则由表3的数据计算估计值的公式如下：表3系统状态转移情况表系统下步所处状态S1S2…Sm系统S1n11n12…n1m本步S2n21n22…n2m所处状态Smnm1nm2…nmmmjinnpmkkijiji,,2,1,ˆ1（3）带利润的马氏链在马氏链模型中，随着时间的推移，系统的状态可能发生转移，这种转移常常会引起某种经济指标的变化．如抗病毒药的销售状态有畅销和滞销两种，在时间变化过程中，有时呈连续畅销或连续滞销，有时由畅销转为滞销或由滞销转为畅销，每次转移不是盈利就是亏本．假定连续畅销时盈r11元，连续滞销时亏本r22元，由畅销转为滞销盈利r12元，由滞销转为畅销盈利r21元，这种随着系统的状态转移，赋予一定利润的马氏链，称为有利润的马氏链．对于一般的具有转移矩阵NNNNNNpppppppppP212222111211的马氏链，当系统由i转移到j时，赋予利润rij（i，j=1，2，…，N），则称NNNNNNrrrrrrrrrR212222111211（5）为系统的利润矩阵，rij＞0称为盈利，rij＜0称为亏本，rij=0称为不亏不盈．随着时间的变化，系统的状态不断地转移，从而可得到一系列利润，由于状态的转移是随机的，因而一系列的利润是随机变量，其概率关系由马氏链的转移概率决定．例如从抗病毒药的销售状态的转移矩阵，得到一步利润随机变量)1(1x、)1(2x的概率分布分别为：……………)1(1xr11r12)1(2xr21r22概率p11p12概率p21p22其中p11+p12=1，p21+p22=1．如果药品处于畅销阶段，即销售状态为i=1，我们想知道，经过n个季度以后，期望获得的利润是多少？为此，引入一些计算公式．首先，定义)(niv为抗病毒药现在处于)2,1(ii，经过n步转移之后的总期望利润，则一步转移的期望利润为：212211)1()1()(jjijiiiiiiiprprprxEv其中)()1(ixE是随机变量)1(ix的数学期望．二步转移的期望利润为：21)1(2)1(221)1(11)2()2(][][][)(jjijjiiiiiiipvrpvrpvrxEv其中随机变量)2(ix（称为二步利润随机变量）的分布为：2,1,)()1()2(jpvrxPjijjii例如，若6.04.05.05.0P，7339R则抗病毒药销售的一步利润随机变量：)1(1x93)1(2x3-7概率0.50.5概率0.40.6抗病毒药畅销和滞销时的一步转移的期望利润分别为：65.035.09)(12121111)1(1)1(1prprxEv36.074.03)(22222121)1(2)1(2prprxEv二步利润随机变量为：)2(1x9+63-3)2(2x3+6-7-3概率0.50.5概率0.40.6抗病毒药畅销和滞销时的二步转移的期望利润分别为：12)1(21211)1(111)2(1)2(1][][)(pvrpvrxEv5.75.0)33(5.0)69(22)1(22221)1(121)2(2)2(2][][)(pvrpvrxEv4.26.0)37(4.0)63(一般地定义k步转移利润随机变量),2,1()(Nixki的分布为：NjpvrxPjikjjiki,2,1)()1()(则系统处于状态i经过k步转移后所得的期望利润)(kiv的递推计算式为：jikjNjjikikipvrxEv)()()1(1)()(NjjikjiNjjikjNjjijipvvpvpr1)1()1(1)1(1（6）当k=1时，规定边界条件0)0(iv．称一步转移的期望利润为即时的期望利润，并记Niqvii,2,1,)1(．可能的应用题型题型一、市场占有率预测例题1在购买该药的总共1000家对象（购买力相当的医院、药店等）中，买A、B、C三药厂的各有400家、300家、300家，预测A、B、C三个厂家生产的某种抗病毒药在未来的市场占有情况。顾客订货情况如下表5：表5顾客订货情况表下季度订货情况合计来自ABCA160120120400B1809030300C1803090300合计5202402401000模型建立与求解一、问题分析目前的市场占有情况为：在购买该药的总共1000家对象（购买力相当的医院、药店等）中，买A、B、C三药厂的各有400家、300家、300家，那么A、B、C三药厂目前的市场占有份额分别为：40%、30%、30%．称（0.4，0.3，0.3）为目前市场的占有分布或称初始分布．此外，我们需要查清使用对象的流动情况。流动情况的调查可通过发放信息调查表来了解顾客以往的资料或将来的购买意向，也可从下一时期的订货单得出。由题已知顾客订货情况如下表5表5顾客订货情况表下季度订货情况合计来自ABCA160120120400B1809030300C1803090300合计5202402401000二、模型的建立2.1模型构建假定在未来的时期内，顾客相同间隔时间的流动情况不因时期的不同而发生变化，以1、2、3分别表示顾客买A、B、C三厂家的药这三个状态，以季度为模型的步长（即转移一步所需的时间），那么根据表5，我们可以得模型的转移概率矩阵：3.01.06.01.03.06.03.03.04.030090300303001803003030090300180400120400120400160333231232221131211pppppppppP矩阵中的第一行（0.4，0.3，0.3）表示目前是A厂的顾客下季度有40%仍买A厂的药，转为买B厂和C厂的各有30%．同样，第二行、第三行分别表示目前是B厂和C厂的顾客下季度的流向．由P我们可以计算任意的k步转移矩阵，如三步转移矩阵：252.0244.0504.0244.0252.0504.0252.0252.0496.03.01.06.01.03.06.03.03.04.033)3(PP从这个矩阵的各行可知三个季度以后各厂家顾客的流动情况．