APP下载

进化神经网络原理、模型及方法综述

2021-09-23马连博

陕西师范大学学报(自然科学版) 2021年5期
关键词:优化结构模型

马连博,李 楠,程 适

(1 东北大学 软件学院,辽宁 沈阳 110819;2 陕西师范大学 计算机科学学院,陕西 西安 710119)

物联网、大数据等新型技术及相关应用的涌现,促进了深度学习方法的创新发展[1]。从多层神经网络演化而来的深度学习是当前大数据处理与分析的主流方法[2]。深度学习的概念源于人工神经网络的研究,它通过组合低层特征形成更加抽象的高层表示属性类别或特征的机制,以发现数据的分布式特征表示[3]。神经网络是深度学习的基础模块,其本质是一种体现特征映射关系的网络模型,用来学习输入与输出之间的对应关系及规律。传统神经网络结构分为输入层、隐藏层、输出层,各层之间的连接是单向的,并且每层的神经元之间没有连接。输入层和输出层之间的网络层被称为隐藏层。隐藏层和输出层中的每个神经元将与其相连的上一层神经元的值进行加权求和,通过激活函数进行非线性转化作为下一层的输入。在此过程中,数据值从输入层通过隐藏层的计算后传递至输出层。训练过程一般使用误差反向传播算法(error backpropagation,BP)进行训练。

神经网络模型精度的影响因素主要包括神经元数量、网络层数、权重及学习率等参数[4],而这些参数的调整都存在不同的问题。通过人工去调节神经元数量、网络层数、学习率等参数需要大量的专业知识,即使是专业人士也需要多次试错。针对神经网络的权重优化主要是采用基于梯度的算法,存在陷入局部最优解的风险[5]。……

登录APP查看全文

猜你喜欢

优化结构模型
一半模型
超限高层建筑结构设计与优化思考
《形而上学》△卷的结构和位置
民用建筑防烟排烟设计优化探讨
关于优化消防安全告知承诺的一些思考
一道优化题的几何解法
重尾非线性自回归模型自加权M-估计的渐近分布
论结构
论《日出》的结构
3D打印中的模型分割与打包