卷积神经网络研究综述
2016-11-01李彦冬郝宗波雷航
李彦冬 郝宗波 雷航
摘要:
近年来,卷积神经网络在图像分类、目标检测、图像语义分割等领域取得了一系列突破性的研究成果,其强大的特征学习与分类能力引起了广泛的关注,具有重要的分析与研究价值。首先回顾了卷积神经网络的发展历史,介绍了卷积神经网络的基本结构和运行原理,重点针对网络过拟合、网络结构、迁移学习、原理分析四个方面对卷积神经网络在近期的研究进行了归纳与分析,总结并讨论了基于卷积神经网络的相关应用领域取得的最新研究成果,最后指出了卷积神经网络目前存在的不足以及未来的发展方向。
关键词:
卷积神经网络;深度学习;特征表达;神经网络;迁移学习
中图分类号:
TP181
文献标志码:A
Abstract:
In recent years, Convolutional Neural Network (CNN) has made a series of breakthrough research results in the fields of image classification, object detection, semantic segmentation and so on. The powerful ability of CNN for feature learning and classification attracts wide attention, it is of great value to review the works in this research field. A brief history and basic framework of CNN were introduced. Recent researches on CNN were thoroughly summarized and analyzed in four aspects: overfitting problem, network structure, transfer learning and theoretic analysis. Stateoftheart CNN based methods for various applications were concluded and discussed. At last, some shortcomings of the current research on CNN were pointed out and some new insights for the future research of CNN were presented.
英文关键词Key words:
Convolutional Neural Network (CNN); deep learning; feature representation; neural network; transfer learning
0引言
图像特征的提取与分类一直是计算机视觉领域的一个基础而重要的研究方向。卷积神经网络(Convolutional Neural Network, CNN)提供了一种端到端的学习模型,模型中的参数可以通过传统的梯度下降方法进行训练,经过训练的卷积神经网络能够学习到图像中的特征,并且完成对图像特征的提取和分类。作为神经网络领域的一个重要研究分支,卷积神经网络的特点在于其每一层的特征都由上一层的局部区域通过共享权值的卷积核激励得到。这一特点使得卷积神经网络相比于其他神经网络方法更适合应用于图像特征的学习与表达。
早期的卷积神经网络结构相对简单,如经典的LeNet5模型[1],主要应用在手写字符识别、图像分类等一些相对单一的计算机视觉应用领域中。……
