搜索
5.4人工神经网络ArtificialNeuralNetworks（ANN）感知器是最早、最简单的人工神经网络。感知器包含两种结点：几个输入结点，用来表示输入属性；一个输出结点，用来提供模型输出。神经网络结构的结点通常叫做神经元或单元。在感知器中，每个输入结点都通过一个加权的链连接到输出结点。这个加权的链用来模拟神经元间神经键连接的强度。像生物神经系统一样，训练一个感知器模型就相当于不断调整链的权值，直到能拟合数据的输入输出关系为止。神经网络——感知器（perception）感知器对输入加权法求和,再减去偏置因子t,然后考察结果的符号,得到输出值y神经网络——感知器（perception）感知器对输入加权法求和,再减去偏置因子t,然后考察结果的符号,得到输出值y,可表示为如下数学模型Wd、Wd-1…W1是输入链的权值，Xd、Xd-1…X1是输入属性值。在感知器模型训练阶段，权值参数Wi不断调整直到输出和训练样例的实际输出一致。神经网络——感知器（perception）感知器学习算法若，则预测误差。需要通过提高所有正输入链的权值、降低所有负输入链的权值来提高测试输出值。若，则预测误差。需要通过降低所有正输入链的权值、提高所有负输入链的权值来减小测试输出值。神经网络——感知器（perception）多层人工神经网络一个多层人工神经网络：输入层和输出层之间包含多个隐藏层训练样本X={x1,x2,...,xi}馈入输入层.每层之间存在加权连接;其中,wij表示由某层的单元j到前一层的单元i的权多层人工神经网络输入同时提供给称作输入层的单元层隐藏层的数量是任意的输出层发布给定样本的网络预测隐藏层和输出层的单元,有时称作neurodes(源于符号生物学),或输出单元包含n个隐藏层的网络称作n+1层神经网络网络是前馈的,如果其权都不回送到输入单元,或前一层的输出单元网络是全连接的,如果每个单元都向下一层的每个单元提供输入给定足够多的隐藏单元,线性阈值函数的多层前馈神经网络可以逼近任何函数存在的问题：基于梯度下降法学习权值可能陷入局部最优解解决方法：反向传播技术。神经网络的特点至少含有一个隐藏层的多层神经网络是一种普适近似（universalapproximator），即可以用来近似任何目标函数ANN可以处理冗余特征权值在训练过程中自动学习，冗余特征的权值非常小神经网络对训练数据中的噪声非常敏感使用确认集来确定模型的泛化误差每次迭代把权值减少一个因子使用的梯度下降方法经常会收敛到局部最小值权值更新公式中加上一个动量项训练ANN是一个很耗时的过程，但分类非常快附录：深度学习（DeepLearning，DL）深度学习（DeepLearning，DL）是从机器学习中的人工神经网络发展出来的新领域。早期所谓的“深度”是指超过一层的神经网络。但随着深度学习的快速发展，其内涵已经超出了传统的多层神经网络，甚至机器学习的范畴，逐渐朝着人工智能的方向快速发展。深度学习中的主要模型（卷积神经网络、递归神经网络等）。《神经网络与深度学习》讲义_邱锡鹏~fergus/tutorials/deep_learning_cvpr12/~hinton/