赵一

（广东海洋大学数学与计算机学院 广东省湛江市 524088）

1 引言

因传统的神经网络，如卷积神经网络(Convolutional Neural Networks, CNN) 输入和输出都是互相独立的，所以需要使用特殊的方法把输入和输出紧密结合。而循环神经网络(Recurrent Neural Network, RNN)是需要之前的序列信息才能够使其任务继续进行下去的神经网络，所有的RNN 都具有一种重复神经网络模块的链式结构。在标准RNN 神经网络模型中，这个重复的结构模块以一种非常简单的结构，即输入层、隐藏层和输出层。RNN 网络只有一个单元，其更新过程是不停地乘以同一套权重，故而会发生梯度消失现象和梯度爆炸现象[1]。而LSTM 方法，是为了解决长期以来问题而专门设计出来的，LSTM 同样是一种链式结构，但是它不同于单一神经网络层，因为LSTM 方法中重复的模块拥有一个不同的结构，其有四个特殊的构建组成，它们分别是单元状态、遗忘门、输入门、输出门。LSTM 方法中网络改进思路是针对RNN 隐藏层单一结构对短期输入信息非常敏感的原因进行了改进，LSTM 方法是在RNN 网络中增加了一个元胞状态，使得经过其的输入信息能够选择性的长期保存。LSTM 方法的关键问题有三个，即第一控制长期状态，第二控制即时状态输入到长期状态中，第三控制是否把长期状态作为当前输出结果。

因此，我们研究团队提出了一种自适应度调节的遗传算法优化方法，该方法把需要传入LSTM 模型中的全连接层数和神经元个数作为染色体上的基因，代入到改进的遗传算法……