胡 黎， 黄洪全， 梁 超， 宋悦阳， 陈延明

(广西大学 电气工程学院，广西 南宁 530003)

0 引 言

21世纪初，最先进的语音识别技术通常是基于隐马尔可夫模型的高斯混合模型(Gaussian mixture model-hidden Markov model，GMM-HMM)[1]。随着时代的发展，GMM-HMM由于网络层级相对较浅，参数训练会存在严重不足的情况，使其无法满足实际的建模和实用化要求。2011年后，深度神经网络(deep neural network,DNN)因能更好利用语音帧的上下文信息等特点逐渐取代了GMM，DNN和HMM结合的语音识别模型，很大程度上降低了语音识别的错误率[2]。DNN-HMM模型的成功启发了一批卷积神经网络(convolutional neural network，CNN)和长短期记忆(long short-term memory，LSTM)[3]网络等神经网络模型在语音识别之中的深入运用。

作为一种能进行深层局部连接的网络结构,CNN在许多连续语音识别任务中都取得了优于DNN模型的成绩。文献[4]将CNN应用于大型词汇连续语音识别任务，相比于DNN模型取得了巨大的精度提升；文献[5]通过完全卷积层模型实验验证了非常深的CNN在语音识别中的优异性能。文献[6]论述了CNN相对于DNN在提取语音特征方面的优势和在大规模中文语音识别任务上的出色表现。

在传统浅层CNN模型中会存在特征提取不足导致语音识别精度相对不高的问题，常用的解决办法是通过不断加深网络深度来获取更多的特征信息，但由此会引入参数量巨大、梯度消失等新的问题。

本文通过分析CNN原理，提出了一种可行的学习更多特征的方法，即双通路卷积神经网络(double-path CNN,DPCNN)。通过DPCNN子网络对同一语音输入进行特征提取，全连接层对子网络进行特征融合,并利用级联Attention-CTC方法训练得到了语音到拼音的端到端语音识别模型。……