APP下载

卷积神经网络在化工领域的应用综述*

2023-03-16罗祉婧韦振宇郑荻凡曾泽楷钟汉斌

云南化工 2023年2期
关键词:池化卷积神经网络

罗祉婧,韦振宇,郑荻凡,曾泽楷,钟汉斌

(西安石油大学,化学化工学院,低碳能源化工工程研究中心,陕西 西安 710065)

随着大数据和深度学习的发展,人工智能迎来了第三次发展热潮,并开始在化工[1-2]、医疗[3]、交通[4]、金融[5]、农业[6]等领域上获得广泛应用。其中,卷积神经网络(Conventional Neural Network,CNN)作为典型的深度学习网络之一,在图像和视频处理中发挥着重要的作用。较之于传统的机器学习,CNN图像识别技术大大提高了图像识别的精度,同时也避免了因进行人工特征提取所消耗的大量时间。将CNN图像识别技术应用在化工领域上,解决了图像收集、重建等诸多问题,为推动人工智能在化工领域上的应用,助力化工企业数字化转型和高效率、高质量发展奠定了重要基础。

1 卷积神经网络简介

卷积神经网络是由多层感知机(Multi Layer Perceptron,MLP)演变而来,主要由卷积层、池化层、激活函数以及全连接层构成。由于卷积神经网络具有局部连接、权值共享、降采样的特性,使得其在处理图像时表现尤为出色。

1.1 卷积层

卷积层通过对图片进行卷积运算来提取特征。低层卷积提取低级特征,如边缘、线条等,高层卷积则用来提取更为深层的特征。卷积操作如图1所示,其中,k1~k9为卷积核的数值。卷积核在原图上滚动来遍历图片,并且通过计算图片与卷积核上的数值来提取特征。同一个卷积层将会得到若干个特征图,每个特征图都会提取出一类特征,并且同一个特征图的神经元会使用同一个卷积核(权值共享)。

图1 卷积操作

卷积计算公式如下:

(1)

式中,f(x)代表输出特征;θij代表第i行j列的卷积核元素大小;xij代表第i行j列元素;b为偏差。

1.2 激活函数

常用激活函数有sigmod函数、tanh函数,以及ReLU函数,三者函数曲线如图2所示。激活函数一般具有非线性、连续可微、单调性等特性。在网络中加入若干激活函数,用于提高网络的非线性拟合能力。

图2 三种激活函数

1.3 池化层

在卷积层后通常会添加池化层来对实现对特征的降维。不仅如此,池化操作还能有效避免模型的过拟合,同时可以提高所提取特征的鲁棒性。

常用的池化方法包括最大池化和平均池化,具体操作如图3所示。其中,平均池化以卷积核中所有值的平均值为特征值,从而减小因邻域大小受限造成的估计值方差增大,平均池化对微小变形具有鲁棒性;而最大池化可以减小因卷积层参数误差造成的估计均值偏移,它对图像纹理信息保留更好。

图3 池化操作

1.4 分类层

经过一系列的卷积和池化操作后,输入数据被移交给分类层,由分类层对提取的所有特征进行非线性组合,最终输出,该过程可由公式(2)表示。

f(x)=W×x+b

(2)

式中,x为全连接层的输入;W为权重系数;b为偏置。

2 卷积神经网络在化工领域的应用

2.1 参数测定

黄正梁等人[7]基于CNN网络、全卷积神经网络(Fully Convolutional Network,FCN)网络和条件随机场,建立了一种气-液-固三相反应器的图像分析方法。该流程如图4所示。

图4 基于CNN的气-液-固三相反应器图像分析流程[7]

主要包括图像采集、训练集制作、模型建立以及参数提取四部分。在模型训练过程中,当识别得到的图像与原始二值化图像偏差小于设定值时,模型训练完成。经过学习率、训练次数、训练集大小等参数优化后,模型在学习率为0.005、学习率大于2000、训练集超过400张图像下,误差控制在5%以内。该方法可用于涓流床流动参数的检测,其中所提取得到的平均液相分数能较为准确地预测涓流区的压降,其平均相对偏差控制在15%以内,为气-液-固三相反应器的研究提供了新的工具。

2.2 流形识别

Wang等[8]利用卷积神经网络来识别方形涓流床反应器中的流场图像,并且定量提取了床层中的气液相含率,结果表明,利用平均液相含率可清晰辨识涓流、脉冲流、鼓泡流等流型间边界。仝卫国等人[9]提出一种基于Landweber算法和卷积神经网络VGG16的流型识别方法,首先通过Landweber算法对流型图像进行重建,并且利用采集得到的10000张泡状流、弹状流流形图片对模型进行训练、测试;当冻结卷积层为10,输入100×100尺寸、326×218分辨率的图片时,该流形识别网络达到了95%的准确率;同时,在如图5所示的4组数据集容量下,对模型进行鲁棒性考察,结果表明,4种数据集的测试准确率最终稳定在96%左右,验证了该模型具有很好的鲁棒性。

图5 不同数据集容量下的准确率曲线[9]

2.3 流场重构

孙先亮等[10]建立了一种基于数据驱动的卷积神经网络的颗粒浓度分布重建方法,并且通过数值模拟方法随机抽取了6万组具有气-固两相流流型特点的颗粒浓度分布图像,进而基于有限元法建立了颗粒分布与电容向量对应的数据集。依据所建立的数据集对模型进行训练,并且考察了CNN网络结构对重建效果的影响,同时根据相对图像误差、相关系数和相含量三个指标对模型重建效果进行了分析。结果表明(图6所示),所建立的CNN图像重建模型抗干扰能力较强,在20 dB、30 dB及40 dB噪声环境下的重建效果依然与不加噪声的传统LBP、Landweber算法重构的颗粒介质浓度分布较为吻合。

2.4 故障诊断

在化学流程工业故障诊断中,卷积神经网络发挥着不可小觑的作用[11]。例如,Wu等[12]基于深度卷积神经网络(Deep Convolutional Neural Network,DCNN)提出了故障诊断分类模型,训练数据通过MATLAB工具箱进行收集,并且在训练阶段使用了Dropout手段有效防止了模型过拟合;模型最终在233720张训练集样本下精度达到了98.6%,在测试集样本(30680张)下达到了88.2%的故障分类准确度。吴春磊[13]提出了具有非对称卷积核(Asymmetric Convolutions)的CNN工业过程故障识别模型(AC-CNN),原始的简单CNN故障分类模型由于结构简单,对工况故障数据分类效果并不理想(如图7(b));在此基础上,通过对模型卷积核尺寸、滤波器数量等进行优化,改进后的AC-CNN模型在21种故障下随机测试集的分类性能和效率显著提高。

图6 CNN、Landweber与LBP算法在不同噪声环境下的重建效果[10]

(a)工况原始数据 (b)CNN模型故障分类 (c)AC-CNN模型故障分类

3 总结与展望

根据生物神经网络拓扑获得的人工神经网络在现阶段应用越来越广泛,因为它具有很强的并行处理、联想记忆、非线性、自学自适应等能力。其中,卷积神经网络作为深度学习的代表算法之一,在反应器内参数测定、流场识别、流场重构和故障诊断等方面取得了一定的应用进展。但在将人工智能与化工融合应用过程中,仍需要进一步提高应用的深度和广度。建议从算法本身的优化出发,与化工领域的知识特点进行深度整合,为化工行业的高质量发展添加新动力。

猜你喜欢

池化卷积神经网络
基于Sobel算子的池化算法设计
卷积神经网络中的自适应加权池化
设施蔬菜病害识别中的CNN池化选择
基于3D-Winograd的快速卷积算法设计及FPGA实现
神经网络抑制无线通信干扰探究
从滤波器理解卷积
基于卷积神经网络和池化算法的表情识别研究
基于傅里叶域卷积表示的目标跟踪算法
基于神经网络的拉矫机控制模型建立
复数神经网络在基于WiFi的室内LBS应用