贝叶斯公式的发展与应用

贝叶斯公式的发展与应用一．内容摘要：贝叶斯公式可以在不完全信息下，对部分位置的状态用主观概率估计或统计得来的先验概率，然后用贝叶斯公式对诱发某结果的最可能原因进行概率推理，即所谓的“逆概问题”。贝叶斯统计理论有英国数学家贝叶斯提出，对现代概率论和梳理统计有着重要作用。目前，贝叶斯网络已经广泛应用在医学、信息传递、生产、侦破案件几个方面。关键字：贝叶斯公式概率推理二．正文：1.引言贝叶斯公式是概率论中重要的公式，主要用于计算比较复杂事件的概率,它实质上是加法公式和乘法公式的综合运用，它从数量上划分了事物的先验概率和后验概率，可以在不完全信息下，对部分位置的状态用主观概率估计或统计得来的先验概率，然后用贝叶斯公式对诱发某结果的最可能原因进行概率推理，即所谓的“逆概问题”。首先，我们引入三个问题：1、一台正确率为99%的机器，它的检测结果有多大可信度？2、一位经验丰富的老警察，辨识小偷的正确率达到99%，当他觉得一个人是小偷的时候，这人真是小偷的概率是多少？3、美国电影的“黑衣人”特工常年与外星人打交道，辨识外星人的正确率也是99%，请问，当他说你是外星人的时候，你真是外星人的概率是多少？在学习概率论这门课之前，我们会觉得这三个问题的答案不相同，因为机器的正确率可信，小偷比较常见，而外星人则过于离奇。这个直觉是对的—即使检验者同等精确，由于他们所验证的事情本身在先验概率上的不同，导致其令人信服的程度也是不一样的。而经过了贝叶斯公式的学习，我们可以得出这种直觉，完全可以通过计算来印证。2.贝叶斯公式的发现贝叶斯ThomasBayes，英国数学家.1702年出生于伦敦，做过神甫。1742年成为英国皇家学会会员。1763年4月7日逝世。贝叶斯在数学方面主要研究概率论。为了证明上帝的存在，他发明了概率统计学原理，遗憾的是，他的这一美好愿望至死也未能实现。贝叶斯在数学方面主要研究概率论。他首先将归纳推理法用于概率论基础理论，并创立了贝叶斯统计理论，对于统计决策函数、统计推断、统计的估算等做出了贡献。1763年发表了这方面的论著，对于现代概率论和数理统计都有很重要的作用。贝叶斯的另一著作《机会的学说概论》发表于1758年。经过多年的发展与完善，贝叶斯公式以及由此发展起来的一整套理论与方法，已经成为概率统计中的一个冠以“贝叶斯”名字的学派，在自然科学及国民经济的许多领域中有着广泛应用。3.贝叶斯公式在概率推理中的应用3.1全概率公式和贝叶斯公式全概率公式：设试验E的样本空间S，事件,A,,A,A,A321n构成样本空间S的一个完备事件组，而且niAi,,3,2,1,0)(P则对于任何一件事件B，有niiiABPAPBP1)|()()(贝叶斯公式：在上述公式下，若0)(BP，有niiikiiABPAPABPAPBAP1)|()()|()()|(事件,A,,A,A,A321n可以看作是导致事件B发生的各种“原因”,先验概率)(PkA是在事件B出现这一信息得知前kA的概率,后验概率是在经过试验获知事件B已经发生这个信息之后事件发生的条件概率,后验概率依赖于试验中得到的新信息的具体情况(比如事件B发生还是事件B的对立事件发生)。名词解释：1）后验概率：后验概率P(ωj|x)，即假设特征值x已知的条件下类别属于ωj的概率。2）似然函数：p(x|ωj)为ωj关于x的似然函数，也成为类条件概率密度函数，表明类别状态为ω时的x的概率密度函数。3）先验概率：先验概率P(ωj)是由先验知识而获得的。4）证据因子：证据因子的存在知识为了保证各类别的后验概率的总和为1。3.2贝叶斯公式的证明设H是假设，X是一个数据元组，也可以看作是一个证据P(H)是先验概率（priorprobability)，P(H|X)是后验概率，即在X条件下H发生的概率。由贝叶斯定理，可以根据P(X),p(H)和p(X|H)来计算P(H|X)，具体是：)()(*)|()|(XPHPHXPXHP(*)公式推导：)()()|(XPHXPXHP(1))()()|(HPXHPHXP(2)由上（1）（2）式，即得（*）式3.3贝叶斯公式的地位和应用贝叶斯公式是概率论中较为重要的公式，是一种建立在概率和统计理论基础上的数据分析和辅助决策工具，以其坚实的理论基础、自然的表示方式、灵活的推理能力和方便的决策机制受到越来越多研究学者的重视。目前，贝叶斯网络已经广泛应用在医学、信息传递、生产、侦破案件几个方面。我们通常的计算思维是——“假设袋子里面有M个黑球、N个白球，从中摸出一个，摸出黑球的概率是多大？”——这是“正向概率”。然而，现实世界本身就是不确定的，人类的观察能力是有局限性的，我们日常所观察到的只是事物表面上的结果，就好像上面我们往往只能知道从里面取出来的球是什么颜色，而并不能直接看到袋子里面实际的情况。这个时候，我们就需要提供一个猜测，而这个猜测就是“贝叶斯公式”。下面我们通过一个例子来看看贝叶斯公式在概率推理中的应用：例：有朋自远方来，他坐火车、坐船、坐汽车、坐飞机的概率分别是0.3，0.2，0.1，0.4，而他坐火车、坐船、坐汽车、坐飞机迟到的概率分别是0.25，0.3，0.1，0，实际上他是迟到了，推测他坐那种交通工具来的可能性大。解:设1{A做火车来｝2{A坐船来｝3{A坐汽车来｝4{A坐飞机来｝{B迟到｝1()0.3PA2()0.2PA3()0.1PA4()0.4PA1(/)0.25PBA2(/)0.3PBA3(/)0.1PBA4(/)0PBA由贝叶斯公式分别可以算得11141()(/)(/)()(/)iiiPAPBAPABPAPBA0.30.250.30.250.20.30.10.10.400.30.250.51720.14522241()(/)(/)()(/)iiiPAPBAPABPAPBA0.20.30.41840.145333411()(/)(/)()(/)iiPAPBAPABPAPBA0.10.10.06900.14533441()(/)(/)0()(/)iiiPAPBAPABPAPBA比较以上四个概率值，可见他坐火车和坐船的概率大，坐汽车的可能性很小，且不可能是坐飞机过来的。此例子运用了四次贝叶斯公式，用所求出的概率判断某人迟到了，选择了何种交通工具的可能行最大。由果索因,果是某人迟到了，因是某人选择了那种交通工具.随着社会的飞速发展，市场竞争日趋激烈，决策者必须综合考察已往的信息及现状从而作出综合判断，利用概率来决策越来越显得重要。四．结论通过本次研究，我们复习了贝叶斯公式的由来，定义和证明，知道了贝叶斯公式在日常生活中的许多应用，很多时候我们可以利用贝叶斯公式来进行决策、推理判断等。可以看出，贝叶斯公式在概率论中占据着非常重要的地位。五．参考文献1.百度百科词条《贝叶斯公式》2.《浅析贝叶斯公式及其在概率推理中的应用》西安邮电大学理学院王丽3.《浅谈贝叶斯公式及其应用》