基于元嵌入的跨语言词嵌入方法研究
2021-08-23韩越艾山吾买尔
现代计算机 2021年20期
韩越,艾山·吾买尔
(1.新疆大学信息科学与工程学院,乌鲁木齐830046;2.新疆大学新疆多语种信息技术实验室,乌鲁木齐830046)
0 引言
跨语言词嵌入旨在学习一个共享的语义空间,在机器翻译[1]、文本分类[2]、信息检索[3]中都有重要意义。当前流行的跨语言词嵌入方法是基于单语词嵌入的线性映射[4]。该方法基于大规模单语语料训练单语词嵌入。认为不同语言上训练的单语词嵌入具有相似性,从而可以学习源语言嵌入到目标语言嵌入的映射关系,将两种或多种语言的嵌入映射到同一语义空间。这一思想被后续的很多研究继承和发展。但语言的固有属性致使不同语言家族的语言具有同构性这一假设面临着巨大挑战[5]。同时,低资源场景下训练的单语词嵌入因语料少难以训练充分或语料差异较大[6],难以得到符合同构性假设的单语词嵌入。
在以往基于映射方法的跨语言词嵌入研究中,对于单语词嵌入的训练没有一个统一的约束。但是对于基于映射的方法来说,单语词嵌入是跨语言词嵌入成功的基础。因此,训练高质量的单语词嵌入进行跨语言词嵌入的学习至关重要。
基于以上问题提出:将不同单语词嵌入训练方法得到的词嵌入进行融合得到元嵌入从而提高跨语言词嵌入的质量。该方法背后的假设为:不同的单语词嵌入方法捕获了语言中单词的不同特征,将不同单语词嵌入训练方法训练的嵌入进行融合,可以从更多维度对单词进行描述,从而得到更高质量的词嵌入。……
登录APP查看全文
