《神经网络》试题

《神经网络》试题（2004年5月9日）张翼王利伟一、填空1.人工神经元网络（ANN）是由大量神经元通过极其丰富和完善的连接而构成的自适应非线形动力学系统。2.神经元（即神经细胞）是由细胞体、树突、轴突和突触四部分构成。3.大量神经元相互连接组成的ANN将显示出人脑的分布存储和容错性、大规模并行处理、自学习、自组织和自适应性、复杂的非线形动态系统、处理复杂、不确定问题。4.ANN发展大体可为早期阶段、过度期、新高潮、热潮。5.神经元的动作特征主要包括空间性相加，时间性相加，阈值作用，不应期，疲劳和可塑性。6.神经元与输入信号结合的两种有代表的结合方式是粗结合和密结合。7.1943年由美国心理学家McCulloch和数学家Pitts提出的形式神经元数学模型简称为MP模型，它规定了神经元之间的联系方式只有兴奋、抑制联系两种。8.目前，神经网络模型按照网络的结构可分为前馈型和反馈型，按照学习方式可分为有导师和无导师学习。9.神经网络工作过程主要由学习期和工作期两个阶段组成。10.反馈网络历经状态转移，直到它可能找到一个平衡状态，这个平衡状态称为吸引子。二、问答题1．简述Hebb学习规则。Hebb学习规则假定：当两个细胞同时兴奋时，它们之间的连接强度应该增强，这条规则与“条件反射”学说一致。在ANN中Hebb算法最简单可描述为：如果一个处理单元从另一处理单元接受输入激励信号，而且如果两者都处于高激励电平，那么处理单元间加权就应当增强。用数学来表示，就是两节点的连接权将根据两节点的激励电平的乘积来改变，即iinijnijijxy1其中nij表示第（n+1）是第（n+1）次调节后，从节点j到节点i的连接权值；为学习速率参数；xj为节点j的输出，并输入到节点i；iy为节点i的输出。2、简述自组织特征映射网络的算法。自组织特征映射网络的算法分以下几步：（1）权连接初始化就是说开始时，对所有从输入节点到输出节点的连接权值都赋以随机的小数。时间设置t=0。（2）网络输入模式为),,,(21nbxxx（3）对Xk计算Xk与全部输出节点所连接权向量TjW的距离},,2,1{},,,2,1{,)(21mjnixdijnikij（4）具有最小距离的节点Nj*竞争获胜}{min},,2,1{*jmjjdd（5）在每一步学习中，Nc内的神经元自适应变化，而Nc外的神经元保持不变。调整输出节点Nj*所连接的权值以及Nj*几何邻域NEj*(t)内节点所连接权值为),,2,1{),(),)((*nitNENxtjjijkiij（6）若还有输入样本数据，那么t=t+1，转到步骤（2）。3．假设变换23:RR相对于标准基集的矩阵表示为100013A求该变换相对于如下基集的矩阵：20,01,320,010,102WT解：第一步是构造如下的两个矩阵：2001,301110002wtBB现在，转换形成新的矩阵表示：tABBA1'2302121630121000210001321001'A所以上面的矩阵就是该变换相对于基集T和W的矩阵表示。4．假设有二进制原型向量1111,111121PP（1）定义一个连续型的Hopfield网络（指定连接权值）来识别这些模式，使用Hebb规则。（2）假设网络增益很大，Hopfield网络的平衡点是什么？解：（1）首先使用有监督的Hebb规则，从参考向量中计算权值矩阵。11111111111111111111111111111111)()(2211TTPPPPW化简得2002022002202002W（2）稳定点分别是P1,P2,-P1,-P2,因为原型模式的负值也是平衡点。也可能还有其他平衡点，如果超立方体其他的角2,1PPspan中。超立方体共有24=16个角，四个角落入X中，四个角落入X中。