搜索
12020/2/16机器学习要介绍的内容机器学习概述基于符号的方法连接主义的方法遗传与进化的方法第七章机器学习22020/2/16机器学习的定义机器学习还没有统一的定义机器学习的一种定义:机器学习是一门研究机器获取新知识和新技能,并识别现有知识的学问。Simon的机器学习定义：能够让系统在执行同一任务或相同数量的另外一个任务时比前一次执行的更好的任何改变。任何智能系统必须具备学习的能力学习是使得智能主体在与环境交互的过程中改变自己.第七章机器学习7.1概述32020/2/16机器学习研究的几种观点符号主义采用符号来表示问题域中的实体极其关系,通过对符号语言表示的规则进行搜索，试图用这些符号来推出新的、有效的并且也用这些符号表达的一般规则。连接主义受生物神经网络系统的启发，把知识表示为由小的个体处理单元组成的网络的激活或者抑制状态模式。学习是通过训练数据来修改网络结构和连接权值来实现。遗传和进化观点，在开始时有一组问题的后选解，根据他们解决问题的能力来进化，适者生存，并相互交叉产生下一代解，这样，解不断的增强就像达尔文描述的生物世界一样第七章机器学习7.1概述42020/2/16机器学习研究的主要内容机器学习中的大多数研究都致力于开发一些有效方法，以能够解决：通过对与人类学习类似的样本进行的处理，来获取高层次概念和(或)问题求解策略。第七章机器学习7.1概述样本学习算法背景知识概念描述52020/2/16机器学习系统的基本结构环境向系统的学习部分提供某些信息学习部分利用这些信息修改知识库执行部分根据知识库完成任务,并把获得的信息反馈给学习部分第七章机器学习7.1概述环境学习知识库执行62020/2/16影响设计学习系统的因素具体系统中,环境、知识库和执行部分决定了具体的工作内容。学习部分要解决的问题由这三部分确定最重要因素是环境提供的信息。如果信息的质量高，与知识库里保存的一般原则差别小，则容易处理，否则需要获得足够数据，才能形成一般原则，放入知识库学习系统获得的信息往往不完全，得出的规则不一定正确，要通过执行加以检验，保留正确的，删除错误的知识的表示方式影响学习,不同的方式修改和扩展知识库的难易程度是不同的执行部分的反馈的方式，影响评价知识库的便利性第七章机器学习7.1概述72020/2/16机械学习机械学习就是记忆,不需要计算和推理,是最简单的机器学习方法,也是最基本的学习过程机械学习可描述成：第七章机器学习7.2基于符号的机器学习(X1,X2,…,Xn)(Y1,Y2,…,Yn)f((X1,X2,…,Xn),(Y1,Y2,…,Yn))存储机械学习要注意的三个问题：存储组织信息环境的稳定性与存储信息的适用性问题存储与计算之间的权衡82020/2/16机械学习举例—建筑工程预算建筑工程预算中的工程量计算是工作量大,存在大量非标准的部件系统中预先保存许多部件的工作量计算时在数据库中进行查找如果有则可以直接使用如果没有则有一个学习程序。让用户输入部件的参数和相应的工作量存储到数据库,以后使用时查表即可第七章机器学习7.2基于符号的机器学习92020/2/16基于解释经验的学习基于解释经验的学习的主要思想:一、给出一个训练实例(目标概念的实例)二、用领域知识对它进行解释三、泛化对训练实例的解释(得到目标概念)基于解释经验的学习有多种不同的形式第七章机器学习7.2基于符号的机器学习102020/2/16EBL的初始状态一、一个目标概念依赖与具体的应用，可以是一个分类，要证明的定理，达到目标的一个计划，问题求解程序的启发式信息等二、一个训练实例目标概念的实例三、领域知识用于解释训练实例如何成为目标概念的规则和事实集合四、操作标准概念定义可以采取的形式的某种方式的描述第七章机器学习7.2基于符号的机器学习112020/2/16什么时候物体是一个杯子我们讨论EBL采用这个例子。目标概念：一条规则，可以用来推断一个物体是否是一个杯子promise(X)-cup(X)(promise是一个合取表达式)领域知识：liftable(X)∧holds_liquid(X)-cup(X)part(Z,W)∧concave(W)∧points_up(W)-holds_liquid(X)light(Y)∧part(Y,handle)-liftable(Y)samll(A)-light(A)made_of(A,feathers)-light(A)第七章机器学习7.2基于符号的机器学习122020/2/16什么时候物体是一个杯子(续一)训练实例cup(obj1)small(obj1)part(obj1,handle)owns(bob,obj1)第七章机器学习7.2基于符号的机器学习part(obj1,bottom)part(obj1,bowl)points_up(bowl)concave(bowl)color(obj1,red)操作标准需要目标概念用物体的可以观察的结构化的属性来定义132020/2/16解释实例第七章机器学习7.2基于符号的机器学习cup(obj1)Holds_liquid(obj1)Points_up(bowl)concave(bowl)part(obj1,bowl)small(obj1)part(obj1,handle)light(obj1)liftable(obj1)142020/2/16泛化解释我们的目标是用变量替换那些是训练实例的一部分常量。而保留领域知识中有的常量和限制。本例中常量handle是领域知识中的一部分，因此保留，从而得到泛化树可以有多种方法来建造泛化树第七章机器学习7.2基于符号的机器学习152020/2/16泛化数第七章机器学习7.2基于符号的机器学习cup(X)Holds_liquid(X)Points_up(W)concave(W)part(X,W)small(X)part(X,handle)light(X)liftable(X)基于泛化树，得到一条规则：small(X)∧part(X,handle)∧part(X,W)∧concave(W)∧Points_up(W)—cup(X)162020/2/16连接主义观点神经元激励模型不再强调用符号来解决问题认为智能存在于这种简单的、相互作用的部件（生物的或人工的神经元）组成的系统中调节神经元之间的连接参数可以提高智能神经网络的问题求接是并行的第七章机器学习7.3连接主义的机器学习172020/2/16人工神经元输入信号xi：可能来自环境也可来自其神经元的刺激。不同模型允许输入参数有不同范围权值wi：描述连接强度激励层阈值函数f第七章机器学习7.3连接主义的机器学习∑wixif()w1w2wnx1x2xn182020/2/16用神经元模型构造逻辑函数McCulloch和Pitts在1943年构造的逻辑函数输入信号：只有+1和-1阈值函数f：大于0返回+1，否则返回-1第七章机器学习7.3连接主义的机器学习x+y-2≥0+1+1-2xy1x∧yx+y-1≥0+1+1-1xy1x∨y192020/2/16七章机器学习TheEnd.