•1981年R.H.Bonczek提出的DSS的三系统结构(3S)是由语言系统、问题处理系统和知识系统组成,是智能决策支持系统的初级形式。•智能决策支持系统(intelligentdecisionsupportsystem,IDSS)是决策支持系统(DSS)与人工智能(artificialintelligent,A1)技术相结合的系统。•人工智能技术主要是以知识处理为主体,利用知识进行推理,完成人类定性分析的部分智能行为。前言人工智能的研究范围•问题求解:如下棋程序。•逻辑推理和定理证明:如数学定理的证明。•自然语言处理:如语言翻译、语音识别、语言生成和理解等。•自动程序设计:“超级编译程序”,能从高级形式的描述,生成所需的程序。•机器学习:归纳学习和类比学习。•专家系统:利用专家知识进行推理达到专家解决问题的能力。•机器人学:完成人类部分工作的机器人。•机器视觉:研究感知过程。•智能检索系统:具有智能行为的情报检索。•组合的调度问题:如最短旅行路线。人工智能的主要研究领域有:1)符号智能符号智能以物理符号系统为基础,研究知识表示、获取、推理过程。2)计算智能计算智能包括神经计算、模糊系统、遗传算法、进化程序设计等。3)人工生命人工生命是指用计算机和精密机械等生成或构造表现自然生命系统行为特点的仿真系统或模型系统。智能决策支持系统中包含的人工智能技术主要有:–专家系统–神经网络–遗传算法–机器学习–自然语言理解等。•(1)专家系统:利用大量的专门知识解决特定领域中的实际问题的计算机程序系统。在专家系统中:•知识的表示形式有产生式规则、谓词公式、框架、语义网络等。用得最多的知识表示形式是产生式规则。•对于产生式规则知识的推理机是“搜索”加“匹配”,这里的“搜索”大多采用深度优先方法,这里的“匹配”采用的是假言推理((A→B)A=B)•专家系统利用专家的定性知识进行推理,达到领域专家解决问题的能力。•(2)神经网络:利用神经元的信息传播模型(MP模型)进行学习和应用。–神经元的信息传播是一个多输入、单输出的结构。神经元之间的连接强度通过权值来表示。神经元之间的连接权值是神经网络的知识,它是通过大量样本的学习而获得的。–神经网络中主要有前馈式网络、反馈式网络和自组织网络。用得最多的是前馈式网络。–前馈式神经网络是利用大量标准(标记)样本(已知样本的输入信息和输出信息)进行学习,获得网络的权值(知识)。这些知识可以用来对新实例(已知输入信息)进行识别,求出该实例的输出信息。•(3)遗传算法:是模拟生物遗传过程的群体优化搜索方法。遗传算法的处理对象是问题参数编码集形成的个体,遗传过程用“选择、交叉、突变”3个算子进行模拟,产生和优选后代群体。–该算法经过若干代的遗传,将会获得满足问题目标要求的优化解。–遗传算法已经广泛地应用于各类优化问题和分类学习问题。•(4)机器学习:是让计算机模拟和实现人类的学习,获取解决问题的知识。–机器学习方法主要是归纳学习和类比学习。–比较成功的机器归纳学习方法有:决策树ID3、C4.5方法,粗糙集(roughset)方法和概念树方法–比较成功的机器类比学习方法有:基于范例的学习CBR•(5)自然语言理解是让计算机理解和处理人类进行交流的自然语言。•由于自然语言存在二义性、感情(语调)等复杂因素,在计算机中无法直接使用自然语言。自然语言处理过程是对一连串的文字表示的符号串,经过词法分析识别出单词,经过句法分析将单词组成句子,再经过语义分析理解句子的含义,变成计算机中的操作(如查询数据库)。•目前,计算机中提供的语言如高级语言C、PASCAL等,数据库语言FoxPro、Oracle等,均属于2型文法(上下文无关文法)和3型文法(正则文法)范畴,虽然这些高级语言离0型文法(短语文法)和1型文法(上下文有关文法)的语言有较大的差距。但是,在人机交互中,对于简单的自然语言进行理解和处理还是能做到的。•在IDSS结构中:–专家系统的核心是知识库和推理机;–神经网络涉及样本库和网络权值库(知识库),神经网络的推理机是BP模型;–遗传算法的核心是“选择、交叉、突变”3个算子,可以将它看成是遗传算法的推理机,它处理的对象是群体,这是一个动态库;–机器学习包括各种算法库,算法可以看成是一种推理,它对实例库进行算法操作获取知识;–自然语言理解需要语言文法库(知识库),处理对象是语言文本,对语言文本的推理采用推导和归约两种方式。•这些人工智能技术可以概括为:推理机+知识库。智能决策支持系统的结构可以简化为图4.2。•智能决策支持系统中的人工智能技术种类较多,这些智能技术都是决策支持技术,它们可以开发出各自的智能系统,并发挥各自不同的辅助决策作用。•一个智能决策支持系统中的智能技术一般只有一种或两种。•下面我们主要讲述专家系统与决策支持系统结合的智能决策支持系统。在第五章我们讲授机器学习辅助决策的智能决策支持系统。专家系统(ES)与智能决策支持系统——专家系统概念•专家系统:是利用大量的专家知识,运用知识推理的方法来解决各特定领域中的实际问题。它使计算机专家系统这样的软件能够达到人类专家解决问题的水平。但专家系统中的知识处理不同于决策支持系统中的数据处理和数值计算。•(1)数据处理与专家系统中的知识处理不同在于:–①数据库中存放的记录可以看成是事实性知识,而专家系统中的知识库包含规律性知识。–②数据库中把检索数据库记录看成是推理,推理是对已有记录的检索,记录不存在,则检索不到。而专家系统中的推理是适应变化的事实,并推理出新事实。•(2)数值计算与专家系统中的知识处理不同在于:–①数值计算中的算法(推理过程)是固定形式的。算法一经确定,推理过程就固定了。而专家系统的推理是不固定形式的,随着问题不同,推理过程也不一样。–②数值计算只能处理数值,不能处理符号。•从上面分析可见,数值计算、数据处理是知识处理的特定情况,知识处理则是它们的发展。•知识处理具有以下特点:–知识包括事实和规则;–既可用于数值处理,又可用于符号处理;–推理过程是不固定形式的;–能得出未知的事实。•专家系统=知识库+推理机•专家一般不懂计算机,需要知识工程师将专家的知识翻译和整理成计算机中专家系统需要的专家知识。知识获取完成把专家的知识按一定的知识表示形式输入到专家系统的知识库中。人机接口将用户的咨询和专家系统推出的建议、结论进行人机间的翻译和转换。解释器向用户解释系统的行为和推理过程,还包括:咨询理解、推理结论的解释等。人机接口(界面)专家知识知识获取器推理机(事实)数据库知识库解释器专家系统结构图专家系统结构用户知识推理知识用户交互显示推理过程解释结论(1)知识库:用于存取和管理所获取的求解实际问题的领域专家的知识和经验.供推理机利用,具有知识存贮、检索、编辑、增删、修改和扩充等功能。(2)数据库:用来存放专家系统在执行与推理过程中所需要和产生的各种信息(控制信息,中间假设和中间结果)。(3)推理机:用来利用知识进行推理,求解专门问题,具有启发推理、算法推理;正向、反向或双向推理;串行或并行推理等功能。(4)解释器:用于作为专家系统与用户之间的“接口”,其功能是向用户解释系统的行为,包括:咨询理解、结论的解释,可以通过将推理的过程显示出来就形成了向用户的解释。(5)知识获取器:是专家系统与专家的“界面”,采用“专题面谈”、“口语记录分析”以及“知识获取辅助工具”等来辅助专家整理知识并表示出来,或辅助扩充和修改知识库。产生式规则知识的推理机和推理的解释机制•利用产生式规则表示知识,在推理时,既要进行深度优先的搜索,又要进行规则前提的匹配,概括地说:产生式规则的推理机=搜索+匹配(假言推理)•在推理过程中,是一边搜索一边匹配。匹配需要找事实。这个事实一是来自于事实数据库,一是来自向用户提问。在匹配时会出现成功或不成功,对于不成功的将引起搜索中的回溯和由一个分支向另一个分支的转移,可见在搜索过程中包含了回溯。•推理的解释机制:推理中的搜索和匹配过程,如果进行跟踪和显示就形成了向用户说明的解释机制。好的解释机制不显示那些对于失败路径的跟踪。产生式规则专家系统•目前,用产生式规则知识形式建立的专家系统是最广泛和最流行的。主要原因在于:–①产生式规则知识表示形式容易被人理解。–②它是基于演绎推理的。这样保证了推理结果的正确性。–③大量产生式规则所连成的推理树(知识树),可以是多棵树。从树的宽度看,反映了实际问题的范围。从树的深度看,反映了问题的难度。这使专家系统适应各种实际问题的能力很强。•知识库:存放了若干规则,每条产生式规则是一个以“如果满足这个条件,就应当采取这个操作”形式表示的语句。如:•产生式规则知识一般表示为:ifAthenB或表示为“如果A成立则B成立”,简化为A→B。条件部分是真)触发(是真)2触发(是真)1触发(IFn事实事实事实部分)n结论事实()2结论事实()1结论事实(THEN操作•产生式规则知识允许有如下的特点:•①相同的条件可以得出不同的结论:A→B,A→C。•②相同的结论可以由不同的条件来得到:A→G,B→G。•③条件之间可以是“与”(AND)连接和“或”(OR)连接。•如:AB→G,AB→G•④一条规则中的结论,可以是另一条规则中的条件。如:FB→Z,CD→F。其中,F在前一条规则中是条件,在后一条规则中是结论。•由于以上特点,规则知识集能做到以下两点:•①能描述和解决各种不同的灵活的实际问题(由前三个特点形成)。•②能把规则知识集中的所有规则连成一棵“与或”推理树(知识树),即这些规则知识集之间是有关联的(由后面特点形成)。产生式规则ES中的推理树(知识树)•规则库中的各条规则之间一般来说都是有联系的,即某条规则中的前提是另外一条规则中的结论。按逆向推理思想把知识库所含的总目标(它是某些规则的结论)作为根结点,按规则的前提和结论展开成一棵树的形式。这棵树一般称为推理树或知识树,它把知识库中的所有规则都连接起来。由于连接时有“与”关系和“或”关系,从而构成了“与或”推理树。•下面通过一个例子用示意图形式画出。该推理树是逆向推理树,是以目标结点为根结点展开的。•用规则的前提和结论形式画出一般的推理树形式,如图4.14所示•该“与或”推理树具有以下特点:•①每条规则对应的结点分支有与(AND)关系、或(OR)关系。•②树的根结点是推理树的总目标。•③相邻两层之间是一条或多条规则连接。•④每个结点可以是单值,也可以是多值。若结点是多值时,各值对应的规则将不同。•⑤所有的叶结点,都安排向用户提问,或者把它的值直接放在事实数据库中。产生式规则ES中的逆向推理过程从根结点G开始搜索,经过A结点到I结点,它是叶结点,向用户提问,若回答为YES,则继续搜索结点,再到X结点,它是叶结点,向用户提问,若回答为YES,再搜索F结点,向用户提问,若回答为NO,由于是“与”关系,回溯J结点为NO,再回溯A结点暂时为NO。由于A结点还有分支,则搜索K结点,若回答也是NO,则此时A结点为NO(因已没有其他分支)。向上回溯时G暂时为NO,搜索其他分支,到B结点,再到L结点,提问回答为YES,回溯到B结点为YES,再到G结点,由于是“与”关系,搜索另一分支C结点再到M结点,再到W结点,提问回答若为YES,再搜索Z结点,提问回答也是YES时,回溯到M结点为YES(由于是“与”关系),再回溯到C结点也为YES,再回溯到G结点为YES,结论已求出,E分支就不再搜索了。1.推理树的深度优先搜索和匹配•逆向推理过程在推理树中反映为推理树的深度优先搜索过程。以上面的推理树为例,其逆向推理的搜索过程如图4.15所示。•以上逆向推理过程在计算机中实现时,并不把规则连成推理树,而是利用规则栈来完成。当调用此规则时,把它压入栈内(相当于对树的搜索),当此规则的结论已求出(YES或NO)时,需要将此规则退栈(相当于对树的回溯)。利用规则栈的压入和退出的过程,相当于完成了推理树的深度优先搜索和回溯过程。产生式规则ES的事实数据库•事实数据库