李玉峰，明拓思宇，魏 鹏

(1.上海大学计算机工程与科学学院，上海200444；2.31401部队，吉林吉林132000；3.61660部队，北京100089)

1 引言

DBN 是深度学习中的一种经典模型，通过学习一种深层非线性网络结构，实现对复杂函数的逼近，目的是提升分类或预测的准确性，常用模型主要是卷积神经网络、自动编码器等[1]。同时，DBN也是一种由多层无监督学习的限制玻尔兹曼机(restricted Boltzmann machine，RBM)和一层有监督学习的BP神经网络组合成的深度神经网络分类器[2]，在语音识别，图像识别等领域应用广泛。

DBN基本网络结构及权值和阈值参数是分类器检测速度和精度的关键，其中，DBN的基本网络结构指DBN深度、每层神经元的个数。因此，可以通过以下两种方式优化DBN分类器性能：对DBN网络结构寻优，即找到合适的DBN深度及其每层的神经元个数，若DBN网络太复杂，会导致DBN训练时间过长，若网络太简单，则会影响DBN分类准确率；对DBN模型中基本网络结构上的权值或阈值参数进行优化调整，若参数设置不合理，则无法生成有效的训练模型，容易降低DBN分类准确率。在不确定DBN网络结构的情况下，直接优化DBN模型参数难度较大，而直接优化DBN网络结构计算成本较小，故本文通过优化DBN网络结构调整DBN模型。

DBN网络结构优化问题公开文献较少，大都采用图像领域、语音识别等领域的经验方法设定。目前，神经网络结构或参数寻优问题可借鉴的研究方法主要是演化计算[3]，它是模拟自然界中生物演化过程产生的一种群体导向随机搜索技术和方法，该方法主要围绕三层神经网络结构和参数的优化问题展开研究。……