基于领域自适应语言模型的机器翻译
2017-07-18
岭南学术研究 2017年3期
(东莞理工学院城市学院,广东 东莞 523419)
机器翻译[1]是自然语言处理领域具有挑战性的任务。统计机器翻译在大规模的双语语料库上训练统计模型,使其能自动翻译源语言到目标译文。语言模型则通过计算目标句子的概率来帮助翻译系统评价翻译结果是否流畅。基于KN平滑的语言模型[2]是统计机器翻译里应用最为广泛的语言模型。常用的语言模型工具SRILM[3]和KenLM[4]都实现了修改后的KN平滑模型[2]。
当前主流的翻译系统[5-6]在同领域的大规模平行语料训练下,翻译同领域的文本的质量会很高。但是对于某些领域获取一定规模的双语语料是非常困难的,甚至大规模的单语语料也并不容易。在这种情况下,跨领域的文本上的翻译结果就不是很理想。另一方面,即使训练数据再大,也很难克服跨领域数据稀疏问题。由于目标数据的缺失,语言模型就不能使用目标数据的信息。比如目前流行的基于KN平滑的语言模型,在训练集上训练折扣平滑的参数,这样的语言模型也就很难仅仅通过训练集数据来准确地预测跨领域的目标测试数据。研究领域自适应的翻译模型和语言模型是解决这些问题一种可行的解决方法。
面对这些问题,本文提出了一种应用于机器翻译系统的基于领域自适应的语言模型。该语言模型通过一个参数调节步骤来适应不同的领域。该模型在大规模的训练集数据上训练出基本模型,然后通过目标领域的开发集数据来调整模型的折扣参数。……
登录APP查看全文
