【大学课件】模糊神经网络

11.1模糊神经网络理论概述11.2模糊系统简介11.3RBF网络及其与模糊系统的功能等价11.4模糊神经元的一般构造方法11.5模糊神经网络11.6标准模糊神经控制器结构11.7模糊RBF型神经控制器结构第十一章模糊神经网络的讲述内容docin/sundae_meng11.1模糊神经网络理论概述模糊逻辑系统易于理解,而神经网络则有极强的自适应学习能力.随着模糊信息处理技术和神经网络技术研究的不断深入,如何将模糊技术与神经网络技术进行有机结合,利用两者的长处,提高整个系统的学习能力和表达能力,是目前最受人注目的课题之一。模糊神经网络就是在这种背景下诞生的一门新生技术。将模糊逻辑与神经网络相结合就构成了模糊神经网络.虽然这是两个截然不同的领域,但是均是对人类智能的研究.目前,将模糊逻辑和神经网络相结合的研究主要有以下几种形式:docin/sundae_meng1)将模糊逻辑用于神经网络——将模糊集合的概念应用于神经网络的计算和学习,用模糊技术提高神经网络的学习性能。2)将神经网络用于模糊系统有两个方面——(1)用神经网络的学习能力实时调整知识库,在线提取或调整模糊规则或其参数.(2)用神经网络完成模糊推理过程.3)模糊系统和神经网络全面结合,构造完整意义上的模糊神经网络和算法.近些年来有关模糊神经网络的主要研究都集中在这方面。4)将模糊神经网络和其它理论相结合,如遗传,聚夹,蚁群,自适应等.11.1模糊神经网络理论概述docin/sundae_meng神经网络具有并行计算,全分布式信息存储,容错能力强以及具有自适应学习等优点.但神经网络不适合表达基于规则的知识。由于神经网络不能很好的利用先验知识,常常只能将初始权值取为零或随机数从而增加了网络的训练时间和陷入局部极值。另一方面,模糊逻辑是一种处理不确定性,它比较适合表达模糊或定性知识,其推理方式比较适合于人的思维模式,但模糊逻辑系统缺乏学习和自适应能力。故二者将综合或许可以得到更好的系统——模糊神经网络系统。与传统的神经网络不同,模糊神经网络的结构和权值都有一定的物理含义,在设计模糊神经网络结构时,可以根据问题的复杂程度以及精度要求,结合先验知识来构造相应的模糊神经网络模型。11.1模糊神经网络理论概述docin/sundae_meng11.2模糊系统简介模糊集——是传统的集合论的推广.该集合中包含隶属于不精确的元素.把隶属的程度定义为隶属函数.这个函数是一个位于0到1之间的值.这种方法明确地提供了一种用数学模型表达不确定性的方式.最常用的隶属函数有两个:(1).三角隶属函数:1()11.10xmxmx其它其中，m和σ分别为该模糊集的中心和宽度.docin/sundae_meng(2).高斯隶属函数22()()xcxe(11.2)其中c和σ分别为高斯模糊集的中心和宽度.11.2模糊系统简介docin/sundae_meng模糊规则——最常见的是IF…THEN和TSK模型（1）IF…THEN规则模糊IF…THEN规则通常用于表达不精确的推理方式如：11.2模糊系统简介1111ss:IFisandandisTHENyisGandandyisGiiirrRxFxF(11.3)其中（j=1,2…r）和（k=1,2…s）是模糊集的标识，它们用适当的隶属函数来刻画。ijFikG11(,)rXxxxR12sY=(y,yy)R分别是语言变量的输入和输出，上标i(=1,2…u)表示第i个规则。docin/sundae_meng11.2模糊系统简介11011:IFisandandisTHENiiiiiiirrrrRxFxFyxx（2）TSK模型（Takagi—Sugeno—Kang模型）为了取代形如（2.3）的模糊IF—THEN规则，Takagi和Sugeno提出了如下形式的IF—THEN规则:(11.4)TSK模型考虑的规则的IF部分是模糊的，而THEN部分是清晰的。它的输出是所有输入变量的线性组合。其中（j=1,2…r）是一个模糊集，（j=1,2…r，i=1,2…u）是实值参数。而是第i个规则的系统的输出。ijFijiydocin/sundae_meng11.2模糊系统简介以往的试验表明TSK模型具有如下优点：（1）计算效率高（2）用线性方法能够较好地处理（3）用优化和自适应方法能够较好地处理（4）能确保输出平面的连续性（5）更适合于用数学方法分析docin/sundae_meng11.2模糊系统简介输入输出（3）模糊推理系统一个模糊推理系统基本上包括5个功能模块：数据库规则库模糊化推理机制去模糊化知识库docin/sundae_meng模糊推理过程大致如下：比较输入变量和隶属函数从而获得每个语言标识的隶属值——模糊化。对初始部分的隶属函数作并运算（通常是乘或最小化），得到每个规则的激活权。依赖于激活权产生每一个规则的有效结果（模糊或清晰）。叠加所有有效的结果产生一个明确的输出——去模糊化。11.2模糊系统简介docin/sundae_meng11.2模糊系统简介下面是实际中常用的三种推理类型：①类型Ⅰ（Tsukamoto模糊类型）系统输出y是每个规则输出的加权平均：11uiiiuiiywyw（11.5）其中，u表示总的规则数，由T范数算子得到：如交集：iw12min(,,)iiiriFFFwuuu（11.6）docin/sundae_meng11.2模糊系统简介或代数乘积：1ijuiFjwu（11.7）是第i个规则的输出，它由规则的触发权激活和输出的隶属函数确定。iyiw②类型Ⅱ（mamdani模糊类型）11()()uyiiiuyiiuwwyuw（面积中心法）（11.8）其中：u是规则数。（系统的模糊输出是通过对有效的模糊输出作“最大化”运算）。docin/sundae_meng11.2模糊系统简介③类型Ⅲ（TSK模糊模型）每个规则的输出是输入变量加一个常数项的线性组合。输出是清晰量。最终输出是每个规则输出的加权平均：11uiiiuiiywyw（11.9）其中（同11.7式），而由下式计算：1ijuiFjwuiy011iiiirryxx（11.10）docin/sundae_meng现已证明有如下主要结论：一个模糊系统可以任意精度逼近一个连续或离散函数（在范数意义下)——这一点在某种程度上看很像神经网络。11.2模糊系统简介模糊系统作为非线性逼近器2Ldocin/sundae_meng11.2模糊系统简介传统的建模方法是：对于一个非线性系统，在整体范围内寻找一个全局函数或解析解。模糊系统是基于规则库的系统，每条规则实际上是对应于被讨论系统的某个局部，如左图，这正是模糊系统的核心所在——把一个复杂的系统分解，每个部分用简单的关系逼近。与神经网络一样，“模糊系统的万能逼近”的结论也只解决了存在性问题，并没有给出怎样去找这样的模糊系统。docin/sundae_mengiiCxuiiuiiieRxy211)(11.3RBF网络及其与模糊系统的功能等价一个具有r个输入和一个输出的RBF神经网络如图所示：如果隐层节点采用高斯函数，则网络输出与输入关系可以表示为：（11.11）1.RBF网络：docin/sundae_meng如把高斯函数的输出归一化，并令：12.......i11.3RBF网络及其与模糊系统的功能等价222211()iixCuiixCnieyxe（11.12）221()ixCuiiyxedocin/sundae_meng11.3RBF网络及其与模糊系统的功能等价2）模糊系统与神经网络功能等价：比较（11.5）（11.9）（11.12）式可以发现，如果以下条件成立，就可以建立RBF神经网络和模糊推理系统间的功能等价性：①RBF隐层单元的个数等于模糊IF-THEN规则数。②每个模糊IF-THEN规则的输出由一个常数组成（确定清晰的输出）。③每个规则的隶属函数被选为带有相同宽度的高斯函数。④所有的模糊推理采用乘法算子。⑤RBF神经网络和模糊推理系统都基于加权平均产生输出。docin/sundae_meng11.3RBF网络及其与模糊系统的功能等价2112()[]11()AxcAuxe2222()12()BxcBuxe由上面的注释可知PBF网络可以看作是一个表达基于规则的模糊知识的神经网络。正是由于RBF单元的局部特性，才使得这种表达是一致的。从知识表示的观点来看，RBF网络本质上是一个IF-THEN规则的网络表达，它的每一个隐含单元表示一个规则，基函数等价于模糊系统中的隶属函数。docin/sundae_mengiyW2∑/∑y1y2yuW1yWuWiyi11.4模糊神经元的一般构造方法模糊神经元除具有普通神经元的功能外，还具有处理模糊信息的能力。按功能可分为以下三种：①由IF-THEN规则构造的模糊神经元（对应类型I）该规则常用于表示专家知识。设是某规则的输出。表示对应规则输出的推理隶属函数值（如式（11.6）和式（11.7））。则我们可以构造如下的神经元：iuiiuiiiwwyy11docin/sundae_meng11.4模糊神经元的一般构造方法②具有清晰输入的模糊化模糊神经元（对应类型Ⅱ）假设有u个非模糊输入，加权操作由隶属度函数代替。其神经元为：x1x2xnμ1(x1)μ2(x2)μn(xn)Y其中表示T范数算子（见式11.6）和（11.7）)。docin/sundae_meng11.4模糊神经元的一般构造方法③具有模糊输入的模糊化模糊神经元（对应于类型Ⅲ）这里的加权操作不是隶属度函数，而是对每个模糊输入进行修正的操作：nxxxY21nncxxx110x1x2xnX1΄X2΄Xn΄Ydocin/sundae_meng11.5模糊神经网络模糊神经元网络是全部或部分采用模糊神经元构成的一类可处理模糊信息的神经网络系统。这里我们只能给出一种基本的和常见的一种模糊神经网络结构和形式。其结构如下图所示：X1XrW1WjWuMFruRuNuyRjNjMF11R1N1docin/sundae_meng11.5模糊神经网络这个网络在本质上代表的是一个基于TSK模型的模糊系统。其中X1..........Xr是输入的语言变量，y是输出。MFij是第i个输入变量的第j个隶属函数（i=1,2….r;j=1,2….u）。Rj表示第j条模糊规则（j=1，2，........u）.Nj是第j个归一化节点，Wj是第j个规则的结果参数或连接权。u指系统总的规则数。下面再详细说明：1）第1层：输入层——语言变量。2）第2层：隶属度层，每个节点代表一个隶属度。])(exp[)(2j2ijiiijcxxui=1,2…r;j=1,2…u(11.14)docin/sundae_meng11.5模糊神经网络3)第3层：T–范数层：每个节点分别代表一个可能的模糊规则中的IF部分，因此，该层节点数反映了模糊规则数。基中j个规则Rj的输出为：]exp[])(exp[2j22j12jriijijcxcxj=1,2…u(11.15)4)第4层:归一化层。对应的节点称为N节点。显然，N节点数与模糊规则节点数相等。第j个N节点的输出为：1,1,2.....ujjukkj(11.16)docin/sundae_meng11.5模糊神经网络5)第5层：输出层1()ukkkyxw(11.17)对于TSK模型，通常取：011+kkkkrrwxx…k=1,2…u(11.18)将（11.15）、（11.18）代入到（11.17）式中可得到：2i0i11i21221[(+)exp()]()exp()uirriiuiiiXCxxyxXC…（11.19）do