人工智能41

2019/8/11271第四章不确定性推理4.1基本概念1.为什么要研究不确定性推理问题•现实世界的问题求解大部分是不良结构；•对不良结构的知识描述具有不确定性：1)问题证据的不确定性；2)专门知识的不确定性。2.什么是不确定性推理不确定性推理是建立在非经典逻辑基础上的一种推理，它是对不确定性知识的运用和处理。不确定性推理就是从不确定性的初始证据出发，通过运用不确定性的知识，最终推出具有一定程度的不确定性但却合理或者近乎合理的结论的思维过程。2019/8/112723.不确定性推理中的基本问题在不确定性推理中，知识和证据都具有某种程度的不确定性，这就为推理机的设计与实现增加了复杂性和难度。它除了必须解决推理方向、推理方法、控制策略等基本问题外，一般还需要解决不确定性的表示和量度、不确定性匹配、不确定性的传递算法以及不确定性的合成等重要问题。(1)不确定性的表示与量度•知识不确定性的表示在确立其表示方法时，有两个直接相关的因素需要考虑：1)要能根据领域问题的特征把其不确定性比较准确地描述出来，满足问题求解的需要；2)要便于推理过程中对不确定性的推算。2019/8/11273目前在专家系统中，知识的不确定性一般由领域专家给出，通常是一个数值，它表示相应知识的不确定性程度，称为知识的静态强度。•证据不确定性的表示在推理中，有两种来源不同的证据：1)一种是用户在求解问题时提供的初始证据；2)另一种是在推理中用前面推出的结论作为当前推理的证据。证据的不确定性表示方法应与知识的不确定性表示方法保持一致，以便于推理过程中对不确定性进行统一处理。证据的不确定性通常也用一个数值表示，它代表相应证据的不确定性程度，称为动态强度。对于初始证据，其值由用户给出；对推理所得证据，其值由推理中不确定性的传递算法通过计算得到。2019/8/11274•不确定性的量度对于不同的知识和不同的证据，其不确定性的程度一般是不相同的，需要用不同的数据表示其不确定性的程度，同时还要事先规定它的取值范围。例如，在专家系统MYCIN中，用可信度表示知识与证据的不确定性，取值范围为[-1，1]。在确定一种量度及其范围时，应注意以下几点：1)量度能充分表达相应知识及证据不确定性的程度。2)量度范围的指定应便于领域专家及用户对不确定性的估计的程度。3)量度要便于对不确定性的传递进行计算，而且对结论算出的不确定性量度不能超出量度规定的范围。4)量度的确定应是直观的。2019/8/11275(2)不确定性匹配算法及阈值的选择对于不确定性推理，由于知识和证据都具有不确定性，而且知识所要求的不确定性与证据实际具有的不确定性程度不一定相同，因而就出现了“怎样才算匹配成功”的问题。对于这个问题，目前常用的解决方法是：设计一个算法用来计算匹配双方相似的程度，另外再指定一个相似的“限度”，用来衡量匹配双方相似的程度是否落在指定的限度内。如果落在指定的限度内，就称它们是可匹配的，相应知识可被应用。•用来计算匹配双方相似程度的算法称为不确定性匹配算法。•用来指出相似的“限度”称为阈值。2019/8/11276(3)不确定性的传递算法不确定性推理的根本目的是根据用户提供的初始证据，通过运用不确定性知识，最终推出不确定性的结论，并推算出结论的不确定性程度。为达到这一目的，除了需要解决前面提到的问题外，还需要解决推理过程中不确定性的传递问题，它包括两个子问题：•在每一步推理中，如何把证据及知识的不确定性传递给结论；•在多步推理中，如何把初始证据的不确定性传递给最终结论。对前一个问题，在不同的不确定推理方法中所采用的处理方法各不相同，这将在以后讨论。对第二个问题，各种推理方法所采用的处理方法基本相同，即：把当前推出的结论及其不确定性程度作为证据放入数据库中，在以后的推理中，它又作为证据推出进一步的结论，由此一步步进行推理，必然会把初始证据的不确定性传递给最终结论。2019/8/11277(4)结论不确定性的合成推理时有时会出现这样的情况：用不同的知识进行推理得到了相同的结论，但不确定性的程度却不同。此时，需要用合适的算法对它们进行合成。在不同的不确定推理方法中所采用的处理方法各不相同，这将在以后讨论。2019/8/112784.2不确定性推理方法的分类及常用不确定性推理方法简介1.不确定性推理方法的研究分类不确定性推理方法的研究分为两大类：(1)在推理一级上扩展确定性推理特点：把不确定的证据和不确定的知识分别与某种量度标准对应起来，并且给出更新结论不确定性的算法，从而构成了相应的不确定性推理的模型。一般来说，这类方法与控制策略无关，即无论用何种控制策略，推理的结果都是唯一的，我们把这一类方法称为模型方法。模型方法数值方法非数值方法：除数值方法之外的方法，如发生率计算，它采用集合来描述和处理不确定性。基于概率的方法（依据概率论的有关理论发展起来的方法，主要有主观Bayes、可信度、证据理论等方法）模糊推理（根据模糊理论发展起来的方法）2019/8/11279(2)在控制策略一级处理不确定性特点:通过识别领域中引起不确定的某些特征及相应的控制策略来限制或减少不确定性对系统产生的影响。这类方法没有处理不确定性的统一模型，其效果极大的依赖于控制策略,这类方法称为控制方法。（该方法有相关性制导回溯、机缘控制、启发式搜索等方法，在此不讨论）2019/8/1127102常用的不确定性推理方法介绍(1)主观Bayes方法利用新的信息将先验概率P(H)更新为后验概率P(H|E)的一种计算方法.主观Bayes方法由Dnda等人于1976年提出，其首先在Prospector专家系统中使用，它以概率论中的Bayes公式为基础。其核心思想是：Ⅰ.根据证据的概率P(E);Ⅱ.利用规则的（LS，LN）；LS：E的出现对H的支持程度，LN：E的出现对H的不支持程度。Ⅲ.把结论H的先验概率更新为后验概率P(H|E)；Ⅳ.循环2019/8/112711(2)可信度方法可信度方法是由E.H.Shortliffe等人在确定性理论的基础上，结合概率提出的一种不确定性推理方法，首先在Mycin系统中得到了成功的应用。其核心思想是：利用确定性因子CF（值）Ⅰ.联系于具体的断言Ⅱ.联系于每条规则Ⅲ.通过CF的计算传播不确定性(3）证据理论法由Dempstan和Shafen提出并发展，其基于一系列理论和描述。由于该理论满足比概率论更弱的公理，能够区分“不确定”与“不知道”的差异，并能处理由“不知道”产生的不确定性，具有较大的灵活性。在证据理论的基础上已经发展了多种不确定性推理模型。2019/8/112712(4)模糊推理模糊推理与前三种不确定性推理方法有着实质性的区别，前三种方法的理论基础是概率论，它所研究的事件本身有明确的含义，只是由于发生的条件不充分，使得在条件与事件之间不能出现确定的因果关系，从而在事件的出现与否上出现不确定性，那些推理模型是对这种不确定性，即随机性的表示与处理。•模糊推理是利用模糊性知识进行的一种不确定性推理。•模糊推理的理论基础是模糊集理论以及在此基础上发展起来的模糊逻辑。•它所处理的事物自身是模糊的，概念本身没有明确的外延，一个对象是否符合这个概念难以明确的确定，模糊推理是对这种不确定性，即模糊性的表示与处理。在人工智能领域内，知识及信息的不确定性大多是由模糊性引起的，这就使得对模糊理论的研究显得格外重要。2019/8/1127134.3概率方法1.经典概率方法设有如下产生式规则：IFETHENH(其中，E为前提条件，H为结论。)•如果我们在实践中能得出在E发生条件下H的条件概率P(H/E),那么就可把它作为在证据E出现时结论H的确定性程度。•对于复合条件E=E1ANDE2AND…ANDEn也是这样，当已知条件概率P(H/E1,E2,…En),就可把它作为在证据E1,E2,…En出现时结论H的确定性程度。优点：显然这是一种很简单的方法，只能用于简单的不确定性推理。缺点：由于它只考虑证据为真或为假两种极端情况，因而使其应用受到限制。2019/8/1127142.逆概率方法经典概率方法要求给出在证据E出现情况下结论H的条件概率P(H/E),这在实际应用中是相当困难的。例:•若以E代表咳嗽，以H代表支气管炎，如欲得到在咳嗽的人中有多少是患支气管炎的，就需要作大量的统计工作;•但是如果在患支气管炎的人中统计有多少人是咳嗽的，就相对容易一些，因为患支气管炎的人毕竟比咳嗽的人少得多。解决方法：可用逆概率P(E/H)来求原概率P(H/E)。(Bayes定理给出了解决这个问题的方法。)(1)Bayes定理:若A1,A2,…An是彼此独立的事件，则对任何事件B有如下Bayes公式成立：P(Ai/B)=i=1,2,..nn1jjjii)P(B/A)P(A)P(B/A)P(A2019/8/112715其中，P(Ai)是事件Ai的先验概率；P(B/Ai)是事件在Ai发生条件下的事件B的条件概率；P(Ai/B)是事件在B发生条件下的事件Ai的条件概率。(2)单个证据时如果用产生式规则：IFETHENHi(IF咳嗽THEN气管炎）中的前提条件E代替Bayes公式中的B,用Hi代替公式中的Ai,就可得到P(Hi/E)=i=1,2,..n这就是说，当已知结论Hi的先验概率P(Hi),并且已知结论Hi(i=1,2,..n)成立时前提条件E所对应的证据所出现的条件概率P(E/Hi),就可用上式求出相应证据出现时结论Hi的条件概率P(Hi/E)。n1jjjii)P(E/H)P(H)P(E/H)P(H2019/8/112716例：设H1,H2,H3分别是三个结论，E是支持这些结论的证据，且已知：P(H1)=0.3P(H2)=0.4,P(H3)=0.5P(E/H1)=0.5P(E/H2)=0.3P(E/H3)=0.4求P(H1/E),P(H2/E),P(H3/E),的值各是多少。解：根据上面的公式P(H1/E)===0.32同理可得：P(H2/E)=0.26P(H3/E)=0.43由此可见，证据E的出现，H1成立的可能性略有增加，H2、H3略有下降。)P(E/H)P(H)P(E/H)P(H)P(E/H)P(H)P(E/H)P(H332211110.20.120.150.152019/8/112717(3)有多个证据时对于有多个证据E1,E2,…,Em和多个结论H1,…,H2,Hn，并且每个证据都以一定的程度支持结论的情况，上面的式子可进一步扩充为：P(Hi/E1E2…Em)=i=1,2,3,…n(4)小结优点：有较强的理论背景和良好的数学特性，当证据及结论都彼此独立时计算的复杂度较低；缺点：它要求给出结论Hi的先验概率P(Hi)及证据Ej的条件概率P(Ej/Hi)，尽管有些时候P(Ej/Hi)比P(Hi/Ej)相对容易得到，但总的来说，想得到这些数据是相当困难的；另外，Bayes公式的应用条件很严格，它要求各事件相互独立。n1jjjmj2j1iimi2i1)P(H)/H...P(E)/HP(E)/HP(E)P(H)/H...P(E)/HP(E)/HP(E2019/8/112718设已知P(H1)=0.4P(H2)=0.3P(H3)=0.3P(E1/H1)=0.5P(E1/H2)=0.6P(E1/H3)=0.3P(E2/H1)=0.7P(E2/H2)=0.9P(E2/H3)=0.1求：P(H1/E1E2)P(H2/E1E2)P(H3/E1E2)312111211211))()/()/(()()/()/()/(iiiiHPHEPHEPHPHEPHEPEEHP0.450.520.032019/8/112719作业2019/8/1127204.4主观Bayes方法鉴于上节所述的直接使用Bayes公式带来的诸多不便，1976年R.O.Doda、P.E.Hart等人在Bayes公式的基础上经适当改进提出了主观Bayes方法，建立了相应的不确定推理模型，并在地矿勘探专家系统PROSPECTOR中得到了成