第四章-不确定推理方法精讲

第4章不确定性推理方法演绎逻辑和一阶谓词逻辑中所运用到的推理是确定性推理，其操作就是进行符号推演，因为它们所依据的证据是确定的，要么为“真，要么为“假，其推理过程也是严密的。所以，所推出的结论也是正确的，要么成立，要么不成立。在现实世界中，确定性的推理问题是少见的，大多还是不确定性的。罗素说：“所有传统逻辑习惯上总是假定当前使用的是精确的符号。正因为如此，传统逻辑难以应用于现实生活，而只是存在于虚幻的想象之中”。第4章不确定性推理方法例如：不明确的症状得出正确的医疗诊断给出相应的治疗方案。分析汽车故障问题：发动机不转并且灯不亮，电池或电线有故障通过朋友们的声音或姿势认出他们。理解成份不全的语句。第4章不确定性推理方法在实际中，存在着很多的不确定性问题，导致了不确定性的知识及不确定性的证据，继而产生了不确定性的推理。不确定性推理是建立在非经典逻辑基础上的一种推理。即从不确定性的初始证据出发，通过运用不确定性的知识，最终推出具有一定程度的不确定性，但却是合理或者近乎合理结论的思维过程。包括概率推理、模糊推理和贝叶斯推理等。我们对于不确定性知识的处理主要是将其确定化，其表示的关键是如何对其不确定性进行量化，量化的目的就是把不确定性转化为确定性。第4章不确定性推理方法归纳逻辑(inductivelogic)适合用于解决不确定性问题。著名的休谟问题：•十八世纪英国哲学家大卫·休谟：从过去太阳每天从东方升起，能否推出明天太阳仍将从东方升起？•内在含义是要讨论归纳推理的有效性问题，即我们能否理性证明从有限事例归纳出全称判断是合理的，因此，休谟问题也称为“归纳问题”。•休谟认为，归纳推理中个别的实际经验的前提，不能必然地推出普遍性的结论。在对休谟问题的辩论过程中，哲学家们提出了各种解决方法。一些学者将概率理论与归纳逻辑相结合，对归纳推理中的或然性进行量化处理，以可能性信度来衡量推理的有效性和合理性。现代归纳逻辑产生了，它是随着数学概率论趋于成熟，而逐渐发展起来。第4章不确定性推理方法不确定性推理方法的分类路线1（在推理一级上扩展确定性推理）：把不确定的证据和知识与某种度量标准对应起来，并且不断更新结论不确定性的算法，从而构成相应不确定推理的模型。路线2（在控制策略一级上处理不确定性）：通过识别领域中引起不确定性的特征和相应的控制策略来限制或减少不确定性对系统的影响第4章不确定性推理方法不确定性推理方法的分类不确定性推理方法模型方法控制方法非数值方法数值方法基于概率的方法模糊推理相关性制导回溯机缘控制启发式搜索概率方法可信度方法主观bayes方法证据理论第4章不确定性推理方法第4章不确定性推理方法4.1不确定性推理中的基本问题4.2概率方法4.3主观Bayes方法4.4可信度方法4.5证据理论4.6模糊推理方法4.1不确定性推理中的基本问题推理：已知事实（证据）知识某种策略结论不确定推理：不确定证据不确定知识某种策略不确定结论（不确定程度）不确定性的表示与量度不确定性匹配算法及阈值的选择组合证据不确定性的算法不确定性的传递算法结论不确定性的合成4.1不确定性推理中的基本问题4.1不确定性推理中的基本问题1.不确定性的表示与量度（1）知识不确定性的表示——知识的静态强度（2）证据不确定性的表示——证据的动态强度（3）不确定性的量度在专家系统中知识的不确定性一般是由领域专家给出的，通常是一个数值——知识的静态强度用户在求解问题时提供的初始证据。（多来源于观察）在推理中用前面推出的结论作为当前推理的证据。①能充分表达相应知识及证据不确定性的程度。②度量范围的指定便于领域专家及用户对不确定性的估计。③便于对不确定性的传递进行计算，而且对结论算出的不确定性量度不能超出量度规定的范围。④度量的确定应当是直观的，同时应有相应的理论依据。例如专家系统MYCIN，用可信度表示知识的证据的不确定性，取值[-1，1]。4.1不确定性推理中的基本问题2.不确定性匹配算法及阈值的选择不确定性匹配算法：用来计算匹配双方相似程度的算法。阈值：用来指出相似的“限度”。怎样才算匹配成功？4.1不确定性推理中的基本问题最大最小方法:C(E1andE2)=min{C(E1),C(E2)}C(E1orE2)=max{C(E1),C(E2)}概率方法:C(E1andE2)=C(E1)C(E2)C(E1orE2)=C(E1)+C(E2)-C(E1)C(E2)有界方法:C(E1andE2)=max{0,C(E1)+C(E2)-1}C(E1orE2)=min{1,C(E1)+C(E2)}还有Hamacher方法、Einstein方法等3.组合证据不确定性的算法：4.1不确定性推理中的基本问题4.不确定性的传递算法（1）在每一步推理中，如何把证据及知识的不确定性传递给结论。（2）在多步推理中，如何把初始证据的不确定性传递给最终结论。EHC(E)f(E,H)C(H)E1E2C(E1)f(E1,E2)C(E2)HC(H)f(E2,H)C(H)=g[C(E),f(E,H)]C(H)=g[C(E1),C(E2)]E1E2C(E1)f(E1,E2)C(E2)HC(H)f(E2,H)C(H)=g[C(E1),C(E2)]4.1不确定性推理中的基本问题5.结论不确定性的合成C(H)=g[C1(H),C2(H)]E1C(E1)f(E1,H)HC1(H)E2C(E2)f(E2,H)HC2(H)第4章不确定性推理方法4.1不确定性推理的基本概念4.2概率方法4.3主观Bayes方法4.4可信度方法4.5证据理论4.6模糊推理方法4.2概率方法例：特定的目标身份融合问题，目标身份的可能种类的集合称为假设空间，可以抽象地表示为一个有限集合，该集合中的每个元素的先验概率P(H)是已知的。有若干信息源（如传感器），分别能够从某一角度对所关注的目标进行观察，并给出目标身份为假设空间中每一类型的条件下得到这一观察结果的条件概率P(E|H)。利用概率论中著名的贝叶斯法则，就能够得出融合所有信息源观察信息后的目标各种可能身份的后验概率P(H|E)。4.2.1经典概率方法产生式规则：E：前提条件，Hi：结论：在证据E出现的条件下，结论Hi成立的确定性程度。)(EHPi复合条件：：在证据出现时结论的确定程度。),,,(m21EEEHPim21EEE,,,ni,,2,1=IFETHENHiE=EiANDE2AND…ANDEm缺点：用于简单的不确定推理；只考虑了证据的“真”“假”情况4.2.2逆概率方法(InverseProbability)1.逆概率方法的基本思想：例如：：咳嗽，：支气管炎，条件概率：统计咳嗽的人中有多少是患支气管炎的。逆概率：统计患支气管炎的人中有多少人是咳嗽的。EiH)(EHPi)(iHEPBayes定理：逆概率原概率)(iHEP)(EHPiBayes公式：)()()()(EPHPHEPEHP2.单个证据的情况产生式规则：有n个可能的结果，在给定的证据下，判定哪一个结果最有可能Bayes公式：ni,,2,1=∑1)()()()()(njjjiiiHPHEPHPHEPEHPni,,2,1=结论Hi的先验概率结论Hi成立时前提条件所对应的证据出现的条件概率IFETHENHi4.2.2逆概率方法举例：想通过调查某地的地质迹象判定此地可能有铜：先知道发现每一种矿物质的概率和每一种矿物被发现时显现的某一迹象的概率，然后使用bayes公式，通过该具体地点的迹象，断定发现铜的可能性。优点:较强的理论背景和良好的数学特征，当证据及结论都彼此独立时计算的复杂度比较低。缺点:要求给出结论Hi的先验概率P(Hi)。及证据Ej的条件概率P(Ej|Hi)；逆概率方法的优缺点4.2.2逆概率方法第4章不确定性推理方法4.1不确定性推理的基本概念4.2概率方法4.3主观Bayes方法4.4可信度方法4.5证据理论4.6模糊推理方法4.3主观Bayes方法（empiricalBayesianapproach）1976年，杜达（R.O.Duda）、哈特（P.E.Hart）等人提出主观Bayes方法，建立了不确定性推理模型，并在地矿勘探专家系统PROSPECTOR中得到了成功的应用。主观Bayes方法：根据证据E的概率，利用知识强度，把结论H的先验概率P(H)更新为后验概率P(H/E).先验概率：在获得与期望结果相关的任何信息之前已经被算出的概率，无条件概率。及证据Ej的条件概率P(Ej|Hi)：此事件被加上一些新信息后的概率。后验概率P(Hi|Ej):也是条件概率给出新证据后的事件发生的概率4.3.1知识不确定性的表示知识：E：前提条件（简单条件或复合条件）H：结论；P(H):H的先验概率；(LS，LN)：知识强度（似然比），一般由领域专家给出；）（）（HEPHEPLS——规则成立的充分性度量（用于指出E对H的支持程度）IFETHEN(LS，LN)H(P(H))）（－）EE¬=∣）（）（HEPHEPLN——规则成立的必要性度量（用于指出E对H的支持程度）（－HHP∣P111)/(SEP-5-4-3-2-1012354)/(SEC)(EPP(E|S)：对于初始证据E，由用户根据观察S给出的概率；C(E|S)：对所提供的证据可以相信的程度，称为可信度。对应关系：例如专家系统PROSPECTOR中：4.3.2证据不确定性的表示多个单一证据的析取：则组合证据的概率：多个单一证据的合取：则组合证据的概率：nEANDANDEANDEE21=12(/)min(/),(/),,(/)nPESPESPESPES＝(/)1(/)PESPES＝非运算：nEOROREOREE214.3.2证据不确定性的表示12(|)max{(|),P(|),...,(|)}nPESPESESPES4.3.4不确定性的传递算法P(H)：专家对结论H给出的先验概率，在没有考虑任何证据的情况下根据经验给出的。随着新证据的出现，对H的信任程度应有所改变。主观Bayes方法推理的任务：先验概率后验概率P(H)P(H/E)或P(H/E)?P(E),LS,LN几率（odds）函数：概率：)(1)()()()(xPxPxPxPxO)(1)()(xOxOxP()[0,1],()[0,)PxOx。•几率函数和概率函数有相同的单调性。4.3.4不确定性的传递算法1.证据肯定存在的情况：即P(E)=14.3.4不确定性的传递算法1)()1()()/(HPLSHPLSEHP)()/(HOLSEHOBayes修正公式：换成几率公式：充分性量度LS的意义：（1）LS1,（2）LS＝1，（3）LS1,（4）LS=0,如果E越是支持H为真时，LS的值应该越大)()/(HOEHO)()/(HOEHO)()/(HOEHO0)/(EHO1.证据肯定存在的情况)()/(HPEHP4.3.4不确定性的传递算法2.证据肯定不存在的情况：即P(E)=0；Bayes修正公式：)()/(HOLNEHO1)()1()()/(HPLNHPLNEHP4.3.4不确定性的传递算法必要性量度LN的意义：（1）LN1,（2）LN＝1，（3）LN1,（4）LN=0,如果E对H越重要时，LN的值应该越小。)()/(HOEHO)()/(HOEHO(/)()OHEOH0)/(EHO2.证据肯定不存在的情况：)()/(HPEHP4.3.4不确定性的传递算法不可能同时支持H或同时反对H，EE和存在两种情况:（1）LS≥1且LN≤1（2）LS≤1且LN≥1不应该存在：（1）LS１，LN1（2）LS１，LN14.3.4不确定性的传递算法例1设有如下知识：4.3.4不确定性的传递算法111:IFTHEN(10,1)(0.03)rEH222: