一种用于答案选择的知识增强混合神经网络
2021-02-28李超凡陈羽中
小型微型计算机系统 2021年10期
李超凡,陈羽中
(福州大学 数学与计算机科学学院,福州 350116) (福建省网络计算与智能信息处理重点实验室,福州 350116)
1 引 言
答案选择是问答系统开发中的一项基本任务,它的目的是从几个候选答案中选择出正确的答案[1].在大多数情况下,答案选择任务被视为排序问题[2,3]或分类问题[4,5].目前针对答案选择问题已经进行了大量的研究工作,所提出的答案选择模型主要基于统计学习方法[2-11]和深度神经网络[12-36].
在深度学习兴起之前,传统的答案选择模型依赖于人工定义的规则来提取特征,比如从问答对中提取词汇特征、句法结构特征、n-gram特征等,获取特征后,使用统计学习算法或排序算法识别问题的匹配答案[6-11].该类模型在答案选择任务上取得了一定的进展,但其主要缺点在于依赖人工进行特征工程,耗时耗力.
近年来,深度神经网络模型在答案选择任务中受到了极大的关注,深度神经网络能够自动地从文本中提取上下文信息和语义信息,并将潜在信息编码为连续低维向量的表示形式,并且进行相关性排序,从而将人们从繁琐的特征工程中解脱出来.因此,深度神经网络已逐渐成为答案选择任务中的主流方法.卷积神经网络能够有效获取句子中的语义信息,因此,一些模型使用卷积神经网络[12-19]来对问题和候选答案之间的语义关联进行建模.但是,卷积神经网络无法充分地对句子中的上下文依赖关系进行建模,且卷积核窗口大小……
登录APP查看全文
