随着国民经济发展对天然气等清洁能源需求的不断增加,管道运输已成为天然气运输的主要方式,但由于材料缺陷、腐蚀和老化等原因造成的泄漏事件逐年增加,已成为威胁管道安全运营的重要因素。再者,天然气管道泄漏孔径的不同会造成不同程度的危害,若能准确地识别泄漏孔径的大小,将有助于安全运营部门准确估算泄漏的危害程度,迅速做出相应的措施来降低损失[1],因此天然气管道泄漏孔径识别研究具有重要意义。

传统的天然气管道泄漏孔径识别多采用“特征提取+构造分类器”的方法,该类方法首先在时域、频域或变换域中提取出不同孔径泄漏的多种特征形成高维特征向量[2],然后人为或利用其他降维方法筛选出最佳的特征描述组合,最后利用聚类、支持向量机或者人工神经网络实现泄漏孔径的分类[3]。Qu等[4]通过对泄漏信号进行小波包分解,将提取得到特征送入到支持向量机判别是否有泄漏发生;Wang等[5]通过对泄漏信号进行局域均值分解,然后将计算得到的包络谱特征送入到支持向量机中实现对泄漏孔径的分类;孙洁娣等[6]通过对泄漏信号进行总体局域分解,提取出散度值较小分量的时频特征向量组,然后送到分类器实现对泄漏孔径的分类;Lu等[7]提出一种基于经验模态分解的小噪声降低方法,应用于管道泄漏检测。但人工筛选出的特征存在主观性强、对专业知识背景要求高和难以完整表达泄漏信息等问题,因此对智能泄漏孔径识别方法的需求更加迫切。

泄漏本质上也可视为通过分析振动信号而识别的一种故障,近年来深度神经网络及深度学习方法在故障诊断领域引起了学者们的一致关注,也取得了很多研究成果。孙洁娣等[8]采用稀疏滤波网络通过深度学习进行特征提取,利用softmax实现对泄漏孔径的分类;Zhu等[9]对泄漏信号提取出22种时频域特征,然后将其作为深度信念网络的输入,构建深度信念网络实现对天然气阀门泄漏率的预测。学者们将多种类型的深度神经网络引入智能诊断领域,也都获得了较为满意的结果。特别是卷积神经网络更是因其强大的特征提取及分类能力获得了学者们的青睐,在多个领域进行了广泛研究。Guo等[10]将一维轴承数据转换成二维图像,然后利用改进的二维卷积对其进行自适应特征提取,实现对轴承故障信号的分类。Levent等[11]通过一维卷积网络直接对原始时间序列的轴承故障数据进行自适应特征提取,实现对轴承故障快速准确的分类。以上方法均取得了较好分类效果,但是一方面将一维时域输入信号转换成图片,在转换过程中会丢失较多细节数据,且模型训练耗时较长,未能充分发挥卷积网络对原始数据强大的自适应特征提取能力;另一方面如果直接用一维卷积网络对输入原始信号进行特征提取,因输入的原始数据本身冗余较大,会较大地增加模型训练及测试时间,特别是处理信噪比较低的信号,训练及识别难度更高。

近年来压缩感知[12](CompressedSensing,CS)和深度学习[13]理论的发展为天然气管道泄漏孔径识别提供了一种全新的信息挖掘方法。针对传统时域采集数据冗余性大的问题,本文引入压缩感知理论,采用随机高斯矩阵对泄漏信号进行压缩采集,在保留泄漏信号绝大部分信息的基础上,大幅减少需要处理的数据量,减少系统的响应时间;针对复杂工况下,传统神经网络对泄漏信号孔径识别鲁棒性低的问题,本文利用一维卷积网络(OneDimensionalConvolutionalNeuralnetwork,1DCNN)强大的特征提取和分类能力直接对压缩感知域数据进行处理,实现对泄漏孔径的识别。本文提出的方法避免了传统方法中特征筛选的主观性限制,且对信噪比较低的信号也能取的较好的分类效果。

1、理论基础

1.1 泄漏信号的压缩采集

管道泄漏时域信号采集是基于奈奎斯特定理,采集的数据冗余性较大,而有用信息相对较少,将原始数据直接作为深度神经网络的输入会造成学习速度较慢,低信噪比数据甚至会影响模型的学习效果。因此本文引入了压缩感知理论实现对有效泄漏信息的采集,不仅能够提取较为完整的泄漏信息,而且能大幅减少需要处理的数据量,提高后续深度网络模型的学习效率。

压缩感知理论指出,若被测信号x∈RN自身或者在某个变换域内是稀疏的,可以用一个与稀疏基不相关的测量矩阵RM×N(M<<N)对其进行压缩采集[14]。其观测模型如式(1)所示

yM=RM×N×xN×1         (1)yΜ=RΜ×Ν×xΝ×1         (1)

式中:x为原始数据;y为压缩采集得到的数据。

利用压缩感知理论可以实现从高维到低维的线性投影,将传统方法中的采样和压缩过程合并,实现了少量的测量值即能够表达原始信号的绝大部分有用信息[15]。压缩率(CompressionRatio,CR)是衡量数据采集压缩程度的一个重要参数,定义如式(2)所示

CR=N−MN×100%         (2)CR=Ν-ΜΝ×100%         (2)

式中:N表示原始信号长度;M表示压缩采集信号长度。CR越大,表示压缩度越高,即用越少的数据来表示原始信号的信息。

在压缩感知理论中,测量矩阵若满足有限等距性质(RestrictedIsometricProperty,RIP),可以由压缩采集信号精确重建原信号。Candes等[16]证明随机高斯矩阵可以极大概率满足RIP准则,具有较好的普适性。研究表明,管道泄漏信号具有稀疏性,因此可利用随机高斯矩阵对泄漏信号进行压缩采集。

1.2 典型的卷积神经网络

CNN是一种典型的前馈神经网络,得益于稀疏连接和权值共享的结构,能够构建含有多隐层的CNN以实现对输入信号逐层提取,得到具有翻转平移不变性的抽象特征,在连接层实现与输出目标之间的映射[17]。

在特征提取过程中,多种卷积核分别与输入信号的局部区域进行卷积运算,实现对输入信号多层次提取,远小于输入大小的卷积核实现CNN的稀疏性连接,且对输入信号的卷积过程中,每种卷积核的权值参数只有一种,这种权值共享的结构较大地减少待训练参数个数,有助于构建深层次卷积网络,提取出更具有表达性的特征[18]。一维卷积网络的计算过程如式(3)所示

cl(i,j)=g(Kli*yl(rj))         (3)cl(i,j)=g(Κil*yl(rj))         (3)

式中:Kliil为在l层第i个卷积核权值;yl(rj)为在l层第j部分被卷积区域数值;g为非线性激活函数Relu;cl(i,j)为第l层第i个卷积核第j部分输出结果。

池化层在卷积层之后,是一种基于局部相关性原理的亚采样,主要起降低卷积网络维度和控制过拟合作用[19]。因对泄漏信号特征提取主要聚焦于其时域信号的波动信息,在本文中采用最大池化(MaxPooling,MP)函数,对卷积后特征取局部最大值。

多个卷积层和池化层交替连接,能够提取出更加符合不同故障信息描述的特征,全连接层将这些特征连接在一起,是一种特殊的卷积运算。其计算方法如式(4)所示

dl=f(Klcl−1+bl)         (4)dl=f(Κlcl-1+bl)         (4)

式中:l为网络层的序号;cl-1为展开的一维特征向量;Kl为权重系数;bl为偏置项;激活函数f为Softmax函数;dl为全连接层的输出结果。

CNN在反向传播过程中,会存在梯度消失和梯度爆炸问题,影响模型的收敛及稳定性,为了解决该问题,在网络中加入批量正则化(BatchNormalization,BN)处理,这是一种类似于数据标准化的操作,每组数据先减去所在数组的均值,再除以标准差;为增强数据之间差异性表达,对标准化后的值乘以一个缩放量γ并加偏置量β。其计算方法如式(5)和式(6)所示

c⃗l(i)=cl(i)−μB(σ2B+δ)√         (5)zl(i)=γl(i)c⃗l(i)+βl(i)         (6)c→l(i)=cl(i)-μB(σB2+δ)         (5)zl(i)=γl(i)c→l(i)+βl(i)         (6)

式中:zl(i)为在第l层第i个输入c经过BN处理后的结果;μB和σB分别为第l层对应输入组的均值和方差;δ为数值稳定常数项。

2、本文提出的方法

针对传统方法对管道泄漏孔径识别的局限,本文提出了基于压缩采集协同深度1DCNN进行自适应特征提取及分类的方法。首先对泄漏信号进行压缩采集,得到包含了绝大部分泄漏孔径信息的少量压缩感知域数据,然后将压缩采集数据送到1DCNN,构建有多个交替的卷积层和池化层的深度结构,实现对输入信号特征的层级式提取;在多个卷积层和全连接层之间加入BN处理,提高网络的收敛速度,在全连接层后增加Dropout层,提高模型泛化能力,减少模型过拟合的概率,最后用Softmax分类器对管道泄漏孔径进行分类。本文方法的整体流程如图1所示。

图1本文方法整体流程

(1)根据压缩率及泄漏信号的单个样本长度,采用随机高斯矩阵对其进行线性投影,将压缩后的数据组合成数据集y={yi,li}Hi=1i=1Η,其中yi表示压缩域得到的第i个采集数据,li表示与之对应的标签数据,H表示总样本个数。从数据集随机抽取数据形成训练集ytrain={yk,lk}k=Ek=1k=1k=E和测试集ytest={yn,ln}n=Hn=E+1n=E+1n=Η。

(2)构建具有多个卷积层的深度神经网络。首先初始化学习率ε、批尺寸(Batchsize)大小b,迭代训练次数t,及每层卷积核数目Mapsize,然后将每批次训练集数据送入到1DCNN输入层,多个交替的卷积层和池化层进行自适应特征提取,由Softmax分类器利用提取出的特征对泄漏孔径进行分类,最后计算该批次训练数据的交叉熵误差值。

(3)根据计算得到的交叉熵误差值,对后向传播过程中权值参数通过链式求导进行更新,对模型进行迭代优化。当多次迭代后误差值不再降低或者迭代次数达到设置值t后,保存所建立模型的参数配置信息。

(4)利用测试集代入所建立模型来计算识别准确率,对模型进行评价。

3、实验结果与分析

3.1 实验数据来源

为了验证所提方法的有效性,进行实验数据处理与结果分析。泄漏数据采自承压管道模拟泄漏装置,实验管道长度约为100m,采用管道支线建设常用的4mm厚度无缝钢管,模拟泄漏孔径为2mm、3mm和4mm,泄漏信号采集的压力变化范围为1.6～2.2MPa,泄漏信号采样速率为100kHz。实验现场模拟泄漏孔如图2所示。

图2实验现场不同孔径的模拟泄漏孔

实验中分别采集孔径2mm、3mm和4mm的泄漏信号多组,即泄漏孔径类别为3类;选取每种类型样本400个,其中70%为训练集,剩下的30%为测试集,每个样本采样点为2400点,用于进行后续处理。

3.2 深度1DCNN的构建

本文构建的卷积网络由三个卷积层,三个池化层、一个Dropout层和一个全连接层组成。首个卷积层直接输入压缩采集得到的数据,激活函数为Relu,使输出数据部分置0,增加网络的稀疏性,缓解在卷积网络后向传播过程中梯度消失的问题。之后的每个卷积层包含BN处理、卷积运算和激活函数,全连接层由BN运算和全连接运算组成,因BN运算已部分缓解网络的过拟合问题,本文只在全连接层之后增添Dropout层,增加网络的泛化性能,最后利用Softmax对提取得到的特征数据通过线性映射进行分类。本文所建立的深度1DCNN模型如图3所示。

图3深度1DCNN结构图

泄漏信号样本长度为2400,下面以压缩率70%为例给出实验结果,采用维度为2400×720的随机高斯矩阵对泄漏信号进行压缩采集,压缩采集后的样本长度为720,然后由图3构建的1DCNN进行自适应特征提取,实验中首个卷积核数目设置为64,其后各卷积核数目设置为32,这种卷积核数目呈倒金字塔方式,能够在保证模型识别精度情况下,减少待训练参数个数,加快收敛速度。模型主要参数设定如表1所示。

本文建立的网络结构对泄漏信号孔径平均识别准确率达到99.3%。实验中还对本文方法关键参数的作用及对识别准确率的影响进行了研究,主要包括压缩率,卷积层数目,BN处理有无等,文中后面部分将对这些参数的影响进行讨论。数据处理中为避免偶然性因素影响,采用10次实验的均值作为最终结果。

本文基于Python的Keras框架训练得到模型,Keras的后端支持为Tensorflow-gpu框架,电脑中CPU配置为I7-6500,显卡为NVIDIAGTX1070,内存为16GB。

3.3 网络主要参数的影响

3.3.1 网络深度的影响

通常深度卷积网络可以通过增加卷积层及池化层的数量来提升网络的特征抽取能力,较深的网络一般有利于提取出更健硕的特征,但网络深度的增加会产生更多待训练参数,增加模型训练难度。本文所用的泄漏信号为一维信号,样本维数较低,且是对小样本模型进行训练,所以本文探讨卷积层数目为2～6个时对识别准确率和所用时间的影响。实验中压缩率为70%,在卷积层和全连接层前加入BN处理,统计10次实验的平均识别准确率及模型训练过程中100次迭代所用时间,结果如图4所示。

由图4可以看出,当网络卷积层数加深时,分类的准确率呈上升趋势,其标准差呈减小趋势,特别是卷积层从2层增加到3层时,识别准确率有明显提升,达到了99.3%,说明随着卷积层数的增加,1DCNN特征提取能力得到增强,但卷积层数继续增加,识别准确率增长缓慢甚至有所降低,而所花费的时间几乎呈现线性增长,因为随着网络深度达到一定值时,模型中待训练的参数已达到最优,特征提取能力已趋于饱和。

3.3.2 压缩率的影响

压缩率表示采集信号相比原始信号的压缩程度,压缩率越高,表示用越少数据来表达原始信号的信息。受压缩感知理论中RIP准则的限制,过高的压缩率将导致随机高斯矩阵无法在有效的观测次数中获取较完整泄漏信号的信息,因此本文主要研究压缩率在40%到90%时对泄漏孔径识别准确率及所用时间的影响。实验中,卷积层数为3层,其他参数保持不变,实验结果如图5所示。

图4不同卷积层数对所提方法准确率影响

图5不同压缩率对所提方法准确率的影响

由图5可知,泄漏信号识别准确率随着压缩比降低整体有上升趋势,当压缩率小于等于80%,平均识别准确率都能够达到99%以上,且准确率标准差波动较小,表示压缩采集时较少点数就能表达泄漏信号绝大部分信息,1DCNN能够对压缩域采集的泄漏信号做到较好分类。但是当压缩率降低时,其训练及诊断所需时间呈线性增长,综合权衡识别准确率及训练诊断所需时间,压缩比为70%是两者较好的折中点,相比准确率接近的CR=40%及准确率稍高的CR=60%情况,采用CR=70%的压缩采集及后续处理,既有较高的识别准确率,多次实验的准确率标准差波动较小,而且耗时也较前两种情况要少,满足模型训练及诊断快速的要求。当实际运行系统对泄漏孔径识别准确率要求相对宽松时,可以设置更高的压缩比,提高系统实时处理性能。

3.3.3 BN的影响

深度神经网络主要是为了学习样本集的数据分布,并在测试集上达到较好的分类效果。但是,如果每一批待训练的样本数据分布差异极大,则会造成网络收敛慢且识别准确率低的问题。BN处理能够对输入数据进行归一化处理,在卷积层和全连接层之前,加入BN处理,能够加快模型收敛速度,同时也能增强网络的泛化能力。如图6为加入BN处理前后模型识别准确率随迭代次数的变化。

图6有无BN处理诊断结果的对比

从图6中能够看出,模型在加入BN处理前后,训练集的识别准确度都能够达到99.9%,但是在对测试集进行测试时,没加入BN处理的模型会较快达到饱和,测试数据的平均识别准确率为96.2%,其值小于加入BN处理模型的识别准确率99.38%,说明BN处理能够增强网络提取特征的能力,有利于1DCNN取得更好的识别分类效果。

3.3.4 压缩采集在本文方法中的重要性

在实验中,本文所用的方法对管道泄漏信号具有良好的识别分类效果,为进一步探究压缩采集过程在所建立模型中作用,将泄漏原始数据和经过压缩采集后的数据分别送到1DCNN中,统计压缩采集前后识别准确率及训练和测试时间,其结果如图7所示。

图7有无压缩采样的诊断结果对比

由图7和表2知,进行压缩采集和未进行压缩采集,其泄漏信号孔径的识别准确率都能够达到99%以上,且准确率标准差相近,说明压缩采集信号已经包含泄漏信号绝大部分信息。但是,本文所用方法训练及测试用时远低于不进行压缩采集所耗费时间,说明在泄漏信号孔径识别过程中,进行压缩采集和1DCNN协同提取特征,是一种十分有效的信息提取方式,能够大幅降低需要处理的数据量,特别是对长输气管道进行泄漏孔径监测时,利用本文所用方法能够大幅度提高系统实时性能。

3.4本文诊断方法与常用方法的比较

传统对泄漏信号的孔径识别,通常先进行时频域分析,提取出较好的表达原始信号的特征,然后选择分类器对泄漏信号进行分类,其中用的较多的方法是BP(BackPropagation)。近些年来,较多学者采用自编码进行特征提取,这种自适应提取方法减少了人为遴选特征的主观性和必备的先验知识,构建网络较为简单,且识别准确率较高。因此选取BP神经网络和自编码的方法与本文方法对比,进行10次实验,对三种模型的识别效果进行比较,结果如图8所示。

图8不同方法10次实验识别准确率对比

由图8和表3知,本文方法和自编码方法的识别准确率较高,都能达到90%以上,特别是本文所提方法,平均识别准确率为99.36%,且准确率标准差也最小,表明本文方法能够较好对管道泄漏孔径进行识别。其原因主要如下:用1DCNN对压缩感知域数据直接处理,少量的压缩感知域数据已经包含了泄漏信号绝大部分信息,此外,1DCNN在自适应特征学习和多层非线性映射等较传统浅层网络有明显优势,能够挖掘高维且差异更为明显的特征信息,因而取得较高识别准确率;自编码方法也取得90%以上的准确率,表明了端到端自适应网络较强的特征提取和分类能力;BP用人工特征筛选加分类器的方法,因所选特征较难全面表达泄漏信号所隐藏的信息,识别准确率最差。

3.5 本文方法的抗噪性能

本文处理的泄漏信号是在野外实验场地采集得到的,包含了环境噪声。而实际管道运行环境通常更为复杂,因此对特征提取及识别方法的鲁棒性有更高要求。为了验证所提方法在复杂环境中的适应性,采取对数据加不同强度高斯白噪声的方法,探究所提方法和上文中常用方法在不同信噪比(SignalNoiseRatio,SNR)情况下对管道泄漏孔径识别分类的优劣,其结果如图9所示。SNR定义如下

SNRdB=10lg(PsignalPnoise)         (7)SΝRdB=10lg(ΡsignalΡnoise)         (7)

Psignal为泄漏信号功率,Pnoise为添加的白噪声信号功率,SNRdB表示为添加高斯白噪声后泄漏信号的信噪比。

图9本文方法及常用方法在不同信噪比下的识别准确率对比

由图9可以看到,随着SNR降低,泄漏信号中包含了更多噪声成分,三种方法的识别准确率都有一定程度下降,但本文方法均明显高于其他两种方法。BP在SNR小于0后识别准确率不足60%,说明传统方法在较强噪声下鲁棒性较差。当信噪比低于-2dB时,本文所用方法识别准确率依旧能达到90%以上,高于自编码和BP方法的识别准确率,说明本文方法在较为复杂的环境依旧有较好的适应性,这主要得益于压缩采集具有对高斯白噪声的抵抗能力;再加上1DCNN网络较强的自适应特征提取能力,因此在低信噪比信号依旧可以获得较好的特征提取及分类效果。

4、结论

针对管道泄漏孔径识别面临的原始数据冗余量大、特征提取及分类过度依赖先验知识和专家诊断等问题,本文提出了基于压缩感知与1维卷积网络相结合的孔径识别分类方法。压缩采集可以实现对泄漏孔径信息的有效提取,缓解了原始数据较大的冗余对深度网络模型学习的影响,提高了天然气管道泄漏孔径识别的实时响应性能;另外本文方法直接对1维信号进行处理,运算复杂度低,特征提取和分类过程合二为一,对管道泄漏孔径平均识别准确率达到99.3%,且在信噪比不高的情况下对泄漏孔径识别依旧能取得较好分类效果。综上所述,本文所提出的方法将压缩感知与深度卷积网络的优点结合,仅通过少量的压缩采集数据即可对天然气泄漏孔径取得较高的识别分类准确率,较传统方法具有更好的智能性和自适应性。

参考文献：

[2]王学伟,苏丹,袁洪芳,等.小波包多级树模型管道泄漏信号压缩感知方法[J].仪器仪表学报,2014(3):520-526.

[6]孙洁娣,彭志涛,温江涛,等.基于总体局域均值分解及稀疏表示分类的天然气管道泄漏孔径识别[J].中国机械工程,2017,28(10):1202-1209.

[8]孙洁娣,乔艳雷,温江涛.压缩感知域智能天然气管道泄漏孔径识别[J].仪器仪表学报,2017(12):3071-3078.

[14]葛明,钱玲.基于A*OMP算法及其改进算法的宽带雷达信号稀疏分解[J].舰船电子对抗,2015(1):65-69.

[15]温江涛,闫常弘,孙洁娣,等.基于压缩采集与深度学习的轴承故障诊断方法[J].仪器仪表学报,2018(1):171-179.

[17]吴春志,江鹏程,冯辅周,等.基于一维卷积神经网络的齿轮箱故障诊断[J].振动与冲击,2018,37(22):56-61.

[19]周奇才,刘星辰,赵炯,等.旋转机械一维深度卷积神经网络故障诊断研究[J].振动与冲击,2018,37(23):39-45.

温江涛,付磊,孙洁娣,王涛,张光宇,张鹏程.压缩感知结合卷积网络的天然气管道泄漏孔径识别[J].振动与冲击,2020,39(21):17-23.

基金:国家自然科学基金项目(51475407;51605419;61701429);河北省自然科学基金资助项目(E2018203433;E2020203061);河北省引进留学人员资助项目(C201827).