APP下载

基于迁移学习的汉越神经机器翻译

2021-02-02黄继豪余正涛于志强文永华

厦门大学学报(自然科学版) 2021年1期
关键词:语言模型

黄继豪,余正涛,于志强,文永华

(昆明理工大学信息工程与自动化学院,云南省人工智能重点实验室,云南昆明650500)

随着我国“一带一路”战略的提出,中越两国交流日益频繁,汉语-越南语(简称汉越)双语翻译技术需求不断增长,但是汉语-越南语神经机器翻译(neural machine translation,NMT)平行语料规模较小,翻译性能不够理想,这成为制约中越两国交流的瓶颈问题.基于编解码模型的端到端NMT[1-2]是目前机器翻译的主流研究方向,其利用编码器将源语言文本编码为固定长度的语义表示,解码器利用该表示逐词生成相应的目标翻译.目前基于编解码的NMT模型包含大量的参数,需要利用大规模平行语料实现参数优化,因此虽然NMT模型在资源丰富型语言翻译任务上已具备很好的翻译性能[3-4],但是低资源语言因为语料规模有限,模型无法得到充分的训练,导致模型性能不佳.Zoph等[5]也证明在低资源的场景下,NMT性能甚至低于传统的统计机器翻译(SMT).因此探索如何利用资源丰富型语言来提升汉越NMT性能成为了当下的研究热点.

目前枢轴语言和迁移学习是解决低资源场景下NMT效果不佳的有效方法.Wu等[6]和Utiyama等[7]提出基于枢轴语言的翻译方法,使用资源丰富型枢轴语言桥接源语言和目标语言,利用存在的源语言-枢轴语言和枢轴语言-目标语言的平行语料库,分别训练源语言到枢轴语言和枢轴语言到目标语言的翻译模型.该方法的优点在于,即使在缺乏大规模的双语平行语料库的低资源场景下,也可以利用枢轴语言实现源语言和目标语言的有效翻译;……

登录APP查看全文

猜你喜欢

语言模型
一半模型
重尾非线性自回归模型自加权M-估计的渐近分布
语言是刀
让语言描写摇曳多姿
多向度交往对语言磨蚀的补正之道
3D打印中的模型分割与打包
FLUKA几何模型到CAD几何模型转换方法初步研究
我有我语言
论语言的“得体”
一个相似模型的应用