APP下载

融合分割权重和注意制的CNN图像分类算法

2021-11-17黄鹤鸣张会云更藏措毛

计算机仿真 2021年6期
关键词:训练方法分类实验

李 伟,黄鹤鸣,张会云,更藏措毛

(1. 青海师范大学计算机学院,青海 西宁 810008;2. 藏文信息处理教育部重点实验室,青海 西宁 810008)

1 引言

随着大容量存储设备的广泛使用和数字化技术的普及,出现了大规模的图像数据库。图像已成为人们获取信息的主要方式。从浩瀚的图像数据库中搜索图像,需要对数据库中的图像进行分析处理,前提是对这些海量图像进行分类。

近年来,随着大数据和硬件计算能力的发展,神经网络作为一种新兴的深度学习方法,在各个领域不断取得了突破性进展[1]。Yann Le Cun于1998年提出的卷积神经网络(Convolution Neural Network, CNN)[2]能更好地获取图像的空间和位置信息,有利于图像分类。Dave Steinkraus等人于2005年发现了图形处理器(Graphics Processing Unit, GPU)在机器学习(Machine Learning, ML)方面的独特优势[3],提出了基于GPU的高效CNN训练方法,大幅提高了CNN的运算能力。Alex Krizhevsky等人于2012年提出了AlexNet[4]网络,采用ReLU激活函数并使用GPU分组卷积方式进行并行训练。Christian Szegedy等人于2014年提出了GoogLeNet[5],在分类结果和运算效率上均取得了较大提升。Sergey Loffe等人于2015年将批标准化(Batch Normalization)[6]应用于神经网络,保证了网络中各层的输出分布基本稳定;同时,大幅降低了网络对初始参数的依赖,提升了网络性能。

CNN具有良好的扩展性和鲁棒性,但利用CNN进行图像分类时,会存在过拟合、梯度爆炸或梯度消失等问题。文献[4]使用Dropout技术有效缓解了网络过拟合问题。受图像自身特性的启发,提出了一种融合分割权重和Attention机制的CNN图像分类算法:基于分割权重的二次预训练方法,通过降低图像背景噪声的干扰,有效抑制了训练过程中出现的过拟合现象。……

登录APP查看全文

猜你喜欢

训练方法分类实验
记一次有趣的实验
分类算一算
谈高中数学习题训练方法与答题技巧
做个怪怪长实验
壁球反手击球技术及其训练方法
跳远运动员专项力量训练方法
教你一招:数的分类
简论1min跳绳训练方法
NO与NO2相互转化实验的改进
实践十号上的19项实验