张 威，刘 晨，费鸿博，李 巍，俞经虎，曹 毅✉

1) 江南大学机械工程学院，无锡 214122 2) 江苏省食品先进制造装备技术重点实验室，无锡 214122 3) 苏州工业职业技术学院，苏州 215104

语音识别是人机交互的一项关键技术，近年来，基于深度学习的语音识别技术取得了跨越式的发展[1-2]，其在语音搜索、个人数码助理及车载娱乐系统[3]等领域得到了广泛应用. 鉴于声学建模是语音识别技术的关键，因此国内外学者对其开展了广泛研究[4-15]，主要可划分为4类：（1）隐马尔科夫模型[4-7]（Hidden Markov model, HMM）；（2）连接 时 序 分 类[8-11]（Connectionist temporal classification, CTC）；（3）序列到序列（Sequence to sequence,S2S）模型[12]；(4) 循环神经网络转换器[13-15]（Recurrent neural network-transducer, RNN-T）.

(1) 第1类基于HMM构建声学模型，用神经网络描述声学特征的概率分布，有效弥补了高斯混合模型对于语音特征建模能力不足的缺点，从而提升声学模型准确率[4]. 其中，Peddinti等[5]探索了神经网络-隐马尔可夫模型（Neural networkhidden Markov model, NN-HMM）的声学模型；Povey等[6]构建了因式分解的时延神经网络模型；刑安昊等[7]提出了深度神经网络（Deep neural network, DNN）裁剪方法，使得DNN性能损失降低. （2）第2类方法基于CTC构建端到端声学模型，无需时间维度上帧级别对齐标签，极大地简化了声学模型训练流程[8-11]. Graves[8]首次构建了神经网络-连接时序分类（Neural network-CTC,NN-CTC）声学模型并验证了其对于声学建模的有效性；Zhang等[9]探索了深度卷积神经网络-连接时序分类（DCNN-CTC）模型；Zhang等[10]构建了多路卷积神经网络-连接时序分类声学模型，使得音节错误率相对降低12.08%；Zhang等[11]提出了连接时序分类-交叉熵训练方法. （3）第3类方法旨在将声学特征编码成高维向量，再解码成识别结果. 基于自注……