基于CNN和DBN的电缆故障类型识别

基于CNN和DBN的电缆故障类型识别张一哲（西安科技大学电气与控制工程学院，陕西西安710054）摘要:现阶段电缆故障的诊断仍以离线的方法为主，在线诊断方法多仍处于探索研究阶段，很多理论尚存在很多问题,难以达到新时期形势下电缆故障在线诊断的要求。针对以上提出的问题，本文建立一个地下电缆分布系统仿真模型用于采集不同情况下不同故障类型的电压和电流信号，引入深度学习的概念来分析电缆故障的类型，创建基于深度学习理论的深度信念网络(DepthBeliefNetwork,DBN)和卷积神经网络(ConvolutionNeuralNetwork,CNNs)用于电缆故障的识别。该深度神经网络利用大量的故障数据能够自动完成故障信号特征的分类并提取将故障准确地定位到具体电缆上并识别出故障类型。实验结果表明基于深度学习理论的深度神经网络对电缆故障的识别优于浅层神经网络例如BP神经网络、支持向量机等。关键词：电缆故障诊断；深度学习；深度信念网络；卷积神经网络ResearchonCableFaultOn-lineDiagnosisMethodBasedonDBNandCNNZhangyi-zhe(SchoolofElectricalandControlEngineerXi'anUniversityofScienceandTechnology,Xi'an710054)ABSTRACT:Atpresent,thediagnosisofcablefaultisstilldominatedbyoff-linemethod,onlinediagnosticmethodsareinthestageofexploratoryresearchandmanytheoriesexistmanyproblems.Atpresent,thediagnosisofcablefaultisstilldominatedbyoff-linemethod,onlinediagnosticmethodsareinthestageofexploratoryresearchandmanytheoriesexistmanyproblems,Thedepthbeliefnetwork(DBN)andconvolutionneuralnetwork(CNN)basedondepthlearningtheoryaresetupforcablefaultidentification.Thedepthneuralnetworkcancompletetheclassificationoffaultsignalautomaticallyandlocatethefaultaccuratelyonthespecificcablebyusingalargenumberoffaultdata.TheexperimentalresultsshowthatthedepthneuralnetworkbasedondepthlearningtheoryissuperiortotheshallowneuralnetworksuchasBPneuralnetwork,supportvectormachineandsoon.Keywords:Cablefault;Deeplearning;DeepBeliefNetwork;ConvolutionalNeuralNetwork1引言电力电缆(powercable)，用于传输和分配电能的电能，常用于城市地下电网、发电站的引出线、工矿企业的内部以及过江过海的水下输电线。电力电缆是在电力系统的主干线路中用于传输和分配大功率电能的电缆产品[1]。其中包括1-500KV及以上各种电压等级,各种绝缘的电力电缆。相比于架空线的电力传输，地下电缆拥众多的优点，例如占用空间小，不易受到环境的干扰，有利于城市环境的建设和美化，根据《2015年中国电线电缆行业深度调研报告》[2-3]，近10年以来电缆的产量及增长量都逐渐升高如图1所示：图12006-2015年中国电力电缆产量及增长率一般认为电力电缆在正常情况下的使用年限为20到30年，但是因为电缆经常被安置于地下沟道或直接埋在土里,它的建设环境和使用的情况使它的寿命发生了很大的变动[4-6]。由于长期处于土壤中与水分、潮气充分接触导致其渗入电缆的绝缘层遭遇腐蚀，再加上在安装电缆过程中的磨损，很容易对以后电缆的运行造成故障隐患。一旦地下电缆发生故障。判断其故障点很困难,不仅会造成人力物力的损耗,还可能会导致停电事故的产生。若故障不能及时排除,将会对经济和社会带来或多或少的影响，因此如何准确、迅速的查找电缆故障便成了供电部门日益关注的问题。电缆故障诊断技术分为故障识别和故障定位，主要分为离线和在线诊断模式，就目前来讲使用离线诊断的方法居多，离线检测的方法就是在电缆发生故障后切断电源使之断电，使用各种设备来检测电缆故障，这种做法不仅耗费大量的人力及时间、实时性差，而且会对电缆造成一定的损伤。因此在线检测方式是未来电力电缆故障诊断的趋势。深度学习(DeepLearning,DL)是指使用有多层网络构架的模型,对数据进行特征计算、信号变换、模式分类等[7]。深度学习的思想就是将数据分布分成多层进行学习，每一层的分布都采用简单函数来表示，这样复杂的数据分布就可以用这些简单的函数来表达成非线性的复杂函数来学习了。随着电力电缆故障检测智能化的发展，必然会产生大量的信息被收集，这就需要复杂的工具去分析这些信息,因此深度学习作为一种有力的工具很适合用来分析电缆故障。2提出的方法本文所研究的对象是一个多电缆、多故障类型的分布系统，数据较多、特征复杂由此给故障识别带来了一定的困难，使用传统的浅层网络对于海量数据的处理能力有限，难以获取故障信号的特征，尤其对于信号深层次的特征。因此采用基于深度学习算法的深层神经网络，通过海量的电缆故障数据来训练，学习到更多的特征，从而最终提升电缆故障分类的准确性。各种基于深度学习的模型和方法被人们挖掘出来，主要由自动编码器(AutoEncoder,AE)，稀疏编码(SparseCoding,SC),限制波尔兹曼机(RestrictedBoltzmannMachine,RBM)，深信度网络(DeepBeliefNetworks,DBNs)，卷积神经网络(ConvolutionalNeuralNetworks,CNNs)[8-10]。本文主要采用DBNs和CNNs完成对电缆故障的分类识别。2.1深度信念网络深度信念网络是由多个RBM单元叠加形成的如图2所示，可视层v为输入层，有3个隐含层h，可视层v与第一个隐层h1构成一个RBM单元，第二个隐层h2与第三个隐层h3构成一个RBM单元，第三个隐层h3与输出层构成一个RBM单元，其中，隐层h1的输出作为第二个RBM单元的输入，隐层h2的输出作为第三个RBM单元的输入。v1v2v3v4v5)1(1h)2(1h)3(1h)4(1h)4(2h)3(2h)2(2h)1(2h)4(2h)3(2h)2(2h)1(2hy1y2y3输入层隐层1隐层2隐层3输出层RBM1RBM2RBM3Softmax图2DBN结构受限波尔兹曼机(RBM)是一种概率生成模型,可用于对各种数据进行建模[11-12]。RBM的应用主要作为构造深度信念网络的学习模块。RBM是一种由两层结点组成的网络，禁止可视层与隐含层的内部节点连接，只允许在可视层和隐含层之间的节点连接，得到的简化模型就是受限波尔兹曼机，如图3所示，其中可视层有m个节点，其中第j个节点的输入用vj表示，隐含层有n个节点，其中其中第i个节点的输入用hi表示。可视向量v=(v1,v2,…,vm)T隐含层向量h=(h1,h2,…,hn)T。标准的RBM是二值的即所有的可视节点和隐含节点均为二值变量(vj∈{0,1},hi∈{0,1})。v1v2v3vm...a1h2h3hn...图3受限波尔兹曼机g(0)=v(0)g(1)g(2)g(∞)h(0)h(1)h(2)…h(∞)p(h│g(0),q)p(h│g(1),q)p(h│g(2),q)p(h│g(∞),q)p(v│h(0),q)p(v│h(1),q)p(v│h(2),q)对比散度算法图4CD-k算法表1RBM训练算法输入：RBM(v1,v2,…,vm,h1,h2,…,hn),训练集S={v(l),1≤l≤N}输出：梯度近似wij、aj、bi,其中i=1,2,…,n,j=1,2,…,m初始化：q={wab},wij=aj=bi=0forallthev(l)∈Sdog(0)←v(l)fort=0,…,k-1dofori=1,2,…,n,doh(t)i~p(hi│g(t),q)endforforj=1,2,…,m,dog(t+1)j~p(vi│h(t),q)endforendforfori=1,2,…,n,j=1,2,…,mdowij←wij+p(hi=1│g(0),q)·g(0)j-p(hi=1│g(k),q)g(k)jendforforj=1,2,…,mdoaj←aj+(g(0)j-g(k)j)endforfori=1,2,…,ndobj←bj+p(hi=1│g(0),q)·-p(hi=1│g(k),q)endforendfor了快速计算受限玻尔兹曼机的对数似然梯度，采用一类称为对比散度(ContrastiveDivergence,CD)的算法[13-14]如图4所示，最常用的是k步对比散度算法(k-stepContrastiveDivergence,CD-k)。虽然CD-k在计算受限波尔兹曼机的对数似然梯度时是一种有偏的随机梯度方法，但其中的偏差会在k趋于∞时消失。在实际应用中，常常只需取k=1，就可以达到足够好的效果。GaussianRBMBinaryRBMBinaryRBM{w1,a1,b1}{w2,a2,b2}{w3,a3,b3}v1h1h2h1h2h3{w1,b1}{w2,b2}{w3,b3}v1h1h2h1h2h3Ʃ{w4,b4}additionaltoplayer无监督的预训练有监督的参数调优v1h1h2h1h2h3Ʃ{w4+e4,b4+s4}additionaltoplayer{w3+e3,b3+s3}{w2+e2,b2+s2}{w1+e1,b1+s1}调优后的参数SoftmaxSoftmax图5DBN的训练DBN是由多层RBM组成的一个神经网络，它既可以被看作一个生成模型，也可以当作判别模型[15]，其训练过程是DBN的训练就是一个逐层训练的方案如图2.7所示,从最下面一层一直到最上一层。RBM1最先训练，然后是RBM2，……，依次类推，那么在这个训练过程中的特征是逐层抽取的，并逐层向上传播的，训练的目标或者是方向是使每个RBM的P(vl)达到最大。在预训练的过程中，每个RBM都是只对自己的这一层负责，而不牵涉到其他层的参数的改变。整个训练过程主要分为无监督的预训练和有监督的参数调优如表1所示，无监督的预训练类似于聚类的过程，它没有标签数据，将具有相同特征的信号分类。采用分层独立训练，首先从可视层v开始向第一个隐层h1传递，调节网络参数使得RBM的P(vl)达到最大即隐层的输出尽可能与输入相，这样就完成了第一个RBM的训练，将第一个隐层的输出作为第二个RBM的输入进行下一层的训练，依次下去得到每层网络的参数。有监督的参数调优过程就是建立一个简单的神经网络，在预训练过的网络中加入标签数据重新训练，采用简单的BP算法即可完成对参数的微调，由于网络采用预训练得到而不是随机选取的参数，因而能快速准确的获取全局最优参数。整个训练其实就是一个特征提取加分类的过程，无监督预训练是为了得到一个最优的初始参数，有监督的训练就是得到全局最优参数使得网络达到最好的性能。表1RBM训练算法阶段1：无监督的预训练1.对于采集的样本数据进行归一化处理，样本处理的目标为均值为0，方差为1的标准整体分布。2.确定DBN的结构，隐含层的层数r，用接近0的随机数初始化网络参数(Wi,bi)(1≤i≤r+1)。