深度学习基础知识简介

整理文档很辛苦,赏杯茶钱您下走!

免费阅读已结束,点击下载阅读编辑剩下 ...

阅读已结束,您可以下载文档离线阅读编辑

资源描述

Xxx2021/1/202人工智能(ArtificialIntelligence)是计算机科学的一个分支,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器,该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等深度学习人工智能机器学习人工智能、机器学习、深度学习机器学习(MachineLearning)是指用某些算法指导计算机利用已知数据得出适当的模型,并利用此模型对新的情境给出判断的过程深度学习是学习样本数据的内在规律和表示层次,这些学习过程中获得的信息对诸如文字,图像和声音等数据的解释有很大的帮助。它的最终目标是让机器能够像人一样具有分析学习能力,能够识别文字、图像和声音等数据3深度学习深度学习是一类模式分析方法的统称,就具体研究内容而言,主要涉及三类方法:•基于卷积运算的神经网络系统,即卷积神经网络(CNN)。•基于多层神经元的自编码神经网络,包括自编码(Autoencoder)以及近年来受到广泛关注的稀疏编码两类(SparseCoding)。•以多层自编码神经网络的方式进行预训练,进而结合鉴别信息进一步优化神经网络权值的深度置信网络(DBN)。神经网络结构4卷积(convolution):提取输入的不同特征激活函数(ActivationFunction):引入非线性因素,把卷积层的结果进行非线性映射池化层(Pooling):缩小输入图像,减少计算量全连接层(Fullyconnectedlayers):对结果进行识别分类Re𝐿𝑈:𝑓(𝑥)=max(0,𝑥)𝑆𝑖𝑔𝑚𝑜𝑖𝑑:𝑓𝑥=11+𝑒−𝑧tanh:𝑓𝑥=𝑒𝑥−𝑒−𝑥𝑒𝑥+𝑒−𝑥𝑠𝑜𝑓𝑡𝑝𝑙𝑢𝑠:𝑓(𝑥)=log(1+𝑒𝑥)55案例:字母X和O的识别如果字母X、字母O是固定不变的,那么最简单的方式就是图像之间的像素一一比对就行,但在现实生活中,字体都有着各个形态上的变化(例如手写文字识别),例如平移、缩放、旋转、微变形等等66字母X的特征77卷积(convolution)101010101当给定一张新图时,CNN并不能准确地知道这些特征到底要匹配原图的哪些部分,所以它会在原图中把每一个可能的位置都进行尝试,相当于把这个feature(特征)变成了一个过滤器。这个用来匹配的过程就被称为卷积操作88池化(Pooling)通常情况下,池化区域是2*2大小,然后按一定规则转换成相应的值,例如取这个池化区域内的最大值(max-pooling)、平均值(mean-pooling)等,以这个值作为结果的像素值99激活函数(ActivationFunction)在卷积神经网络中,激活函数一般使用ReLU(TheRectifiedLinearUnit,修正线性单元),它的特点是收敛快,求梯度简单。v𝑘=(𝑥k𝑖∗𝑤𝑘𝑖)𝑛1+𝑏k𝑦𝑘=𝛷(𝑣𝑘)1010识别字母X和O的网络特征提取部分1111全连接层(Fullyconnectedlayers)全连接层在整个卷积神经网络中起到“分类器”的作用,即通过卷积、激活函数、池化等深度网络后,再经过全连接层对结果进行识别分类12卷积神经网络(ConvolutionalNeuralNetworks)卷积神经网络主要由两部分组成,一部分是特征提取(卷积、激活函数、池化),另一部分是分类识别(全连接层)13线性回归算法假设函数(Hypothesisfunction):TrainingSetLearningAlgorithmxhyh𝜃(𝑥)=𝜃0+𝜃1𝑥(1)𝐽(𝜃0,𝜃1)=12𝑚ℎ𝜃(𝑥𝑖)−𝑦𝑖2𝑚𝑖=1(2)minimize𝜃0,𝜃1𝐽(𝜃0,𝜃1)(3)线性回归的目标:代价函数:14梯度下降𝜃𝑖=𝜃𝑖−𝛼𝜕𝜕𝜃𝑖𝐽(𝜃)1516常见的深度学习框架!

1 / 17
下载文档,编辑使用

©2015-2020 m.777doc.com 三七文档.

备案号:鲁ICP备2024069028号-1 客服联系 QQ:2149211541

×
保存成功