浅谈卷积神经网络

浅谈卷积神经网络ConvolutionalNeuralNetworks基础篇优化方式•部分联通•权值共享意义何在意义何在弊端：1、网络负担重，计算量大2、影响输入形式意义何在输入层1000*1000隐藏层10^6权值10^12！！如果再换成普通的彩色图像，输入层就变成3*1000*1000隐藏层10^6卷积核10*10权值10^8！！还有权值共享！！！意义何在隐藏层10^6卷积核10*10权值10^8！！卷积核10*10卷积核数目100权值10*10*100=10^4！！如何卷积图像：5*5卷积核：3*3卷积特征：（5-3+1）*（5-3+1）*具体依步长而定Pooling2*2Max-pooling（2*2）orAverage-pooling（1）举个例子举个例子进阶篇计算推导全连接BP神经网络计算推导全连接BP神经网络公式（1）公式（2）计算推导卷积神经网络这里Mj表示选择的输入maps的集合计算推导卷积神经网络公式（2）计算推导卷积神经网络公式（2）公式（1）up(.)表示一个上采样操作。如果下采样的采样因子是n的话，它简单的将每个像素水平和垂直方向上拷贝n次。其他（CRBM、CDBN）ThehiddenlayerconsistsofKgroups,whereeachgroupisanNH×NHarrayofbinaryunits,resultinginNH^2*Khiddenunits.EachoftheKgroupsisassociatedwithaNW×NWfilter(NW=NV−NH+1);thefilterweightsaresharedacrossallthehiddenunitswithinthegroup.THX