APP下载

结合注意力及胶囊网络的多通道关系抽取模型

2021-02-28张亚彤彭敦陆

小型微型计算机系统 2021年10期
关键词:单词分类模型

张亚彤,彭敦陆

(上海理工大学 光电信息与计算机工程学院,上海 200093)

1 引 言

随着互联网技术的不断发展,用户信息规模呈现出爆炸式增长.信息抽取可以从纯文本的大量冗余信息中提取出有价值的信息,因此可以解决信息爆炸的问题.关系抽取[1,2]作为信息抽取的子任务之一,可以从非结构化文本数据中自动提取实体对之间的关系.从RE中获得的实体关系三元组可以应用于自然语言处理的许多下游任务中,例如:知识图谱的构建,智能问答等.

传统有监督关系抽取方法需要大量人工标注数据,非常耗费人力资源和时间.为解决这个问题,文献[3]提出了远程监督关系抽取方法,通过对齐知识库和文本来自动地生成训练数据.远程监督本质上是一种自动标注样本的方法,但它的假设太强,会导致错误标注样本的问题.为了缓解这个问题,文献[4]提出多实例远程监督关系抽取.但是,这些方法的数据处理过度依赖于NLP工具,这将会导致错误积累并降低关系抽取的性能.

近年来,神经网络方法逐渐应用于关系抽取任务中,该方法无需复杂的特征工程即可自动提取句子的特征.比如卷积神经网络[5]、循环神经网络[6],长短期记忆网络[7]和基于注意力机制的双向长短期记忆网络[8].但现有方法存在两个主要问题:首先,注意力机制采取的加权和形式会丢失句子的时序信息,且这些方法采用的表示句子的方法都是单通道的.单个通道在注意……

登录APP查看全文

猜你喜欢

单词分类模型
一半模型
分类算一算
重尾非线性自回归模型自加权M-估计的渐近分布
看图填单词
教你一招:数的分类
看完这些单词的翻译,整个人都不好了
3D打印中的模型分割与打包
单词拾趣