APP下载

基于门控卷积网络与CTC的端到端语音识别

2020-09-29杨德举马良荔谭琳珊裴晶晶

计算机工程与设计 2020年9期
关键词:特征模型

杨德举,马良荔,谭琳珊,裴晶晶

(1.海军工程大学 电子工程学院,湖北 武汉 430033;2.中国人民解放军91001部队,北京 100841)

0 引 言

传统的自动语音识别(automatic speech recognition,ASR)系统使用混合高斯模型-隐马尔科夫模型(GMM-HMM)[1]作为声学模型进行训练,然后利用外部语言模型对单词序列进行重核,生成合理的句子。系统一般包含声学模型、发音词典和语言模型等多个模块,设计过程中需要运用语音学、语言学等不同的领域知识,训练过程中各模块根据各自的优化目标单独进行训练,导致在推断阶段各模块的误差会不断累积。更重要的是,这些模型需要高质量的数据集来进行训练,数据集中的训练数据必须强制预对齐,保证每个输入帧必须有一个对应的标签,构建这样一个数据集需要大量的时间、精力。因此,设计和训练一个性能良好的ASR系统是极其复杂和困难的。

端到端的ASR系统是一种序列到序列(seq2seq)模型,它直接将输入的声学信号映射到字符或单词等输出,而不需要任何预定义的标签对齐。它将大多数模块包含到一个深度神经网络(deep neural network,DNN)中,使用一个整体的目标函数来优化模型[2-5]。基于此,本文提出了一种融合门控线性单元(gated linear units, GLU)[6]的卷积神经网络(convolutional neural network,CNN)模型。该模型使用一维CNN(1D-CNN)[7,8]联合上下文信息进行特征抽象,提高特征表达能力,利用链接时序分类(connectionist temporal classification,CTC)[9]技术实现端到端的语音识别。

1 相关研究

端到端的语音识别系统直接将输入的语音映射到字母或单词序列,并在单个系统中联合训练声学和发音等建模组件,其实现方法主要分为两类,分别为基于CTC的方法和基于注意力机制[10]的方法。……

登录APP查看全文

猜你喜欢

特征模型
一半模型
重尾非线性自回归模型自加权M-估计的渐近分布
如何表达“特征”
不忠诚的四个特征
3D打印中的模型分割与打包
FLUKA几何模型到CAD几何模型转换方法初步研究
线性代数的应用特征
一个相似模型的应用