APP下载

基于混合语料的无监督双语词典抽取

2021-12-01韩梦凡曹海龙

智能计算机与应用 2021年8期
关键词:单词监督方法

韩梦凡,曹海龙

(哈尔滨工业大学 计算学部 机器智能与翻译实验室,哈尔滨 150001)

0 引言

双语词典抽取能够抽取出不同语言中含义相同的单词。作为机器翻译的基础,双语词典也被应用到跨语言自然语言处理任务中。在跨语言任务中,双语词典作为共享的跨语言特征将在一个语言上训练得到的模型应用到其它语言上。跨语言命名实体识别、跨语言信息检索以及跨语言文档分类等都利用该思想进行跨语言任务学习。

双语词典的抽取需要大规模高质量的平行语料,例如Mikolov 和Xing 等人的工作都采用了规模较大的词典作为监督方式学习跨语言词向量,进而抽取双语词典。由于高质量大规模的平行语料难以获取,不需要任何监督信息的无监督方法逐步成为研究热点[1-2];Barone 等人首次提出采用生成对抗训练进行无监督学习[3];zhang 等人在此基础上提升生成对抗训练方法的性能[4];Artetxe 等人利用无监督初始化和迭代自学习进行无监督跨语言词向量表示学习来抽取词典[5];Lample 等人将生成对抗训练与迭代学习过程进行结合,利用对抗训练获取初始化词典之后进行迭代增强[6]。尽管无监督方法在部分语言上(如英语-西班牙语)的性能与有监督方法不相上下,但是无监督方法隐含了不同语言的词向量是同构的假设。Søgaard 等人的研究表明词向量之间的同构性受到多种因素的影响,不同语言的同构程度是不同的[7]。基于以上原因,本文提出了一种同构性增强的方法,来提升无监督方法在双语词典抽取上的性能,该方法首先利用基线模型抽取双语词典,根据双语词典替换且合并单语语料,对混合语料进行训练,提升不同语言词向量的同构性,进而提升双语词典性能。……

登录APP查看全文

猜你喜欢

单词监督方法
突出“四个注重” 预算监督显实效
看图填单词
监督见成效 旧貌换新颜
看完这些单词的翻译,整个人都不好了
夯实监督之基
用对方法才能瘦
四大方法 教你不再“坐以待病”!
捕鱼
监督宜“补”不宜“比”
单词拾趣