深度学习建模下的自动句子填空技术
2019-09-05陈志刚胡国平
中文信息学报 2019年8期
陈志刚,华 磊,刘 权,3,尹 坤,魏 思,2,胡国平
(1. 科大讯飞股份有限公司 人工智能研究院,安徽 合肥 230088;2. 认知智能国家重点实验室,安徽 合肥 230088;3. 中国科学技术大学 信息科学技术学院,安徽 合肥 230026)
0 引言
自动句子填空任务旨在从给定的词语或短语集合中选择最佳的候选答案填在目标句子的合适位置,使目标句子具有正确的语法和完整的语义。本文以高考英文单项选择题作为切入点,对自动句子填空技术中的一些重点问题进行了研究探索。
自动句子填空任务涉及到对句子语法、用语习惯、语境判断等多个方面的考察。以高考中的英文单项选择题为例,为了更好地考察学生对于英文的掌握情况,高考中的单项选择题覆盖的知识范围比较广泛,题型也比较丰富。总体而言,可以将题型分为以下四类:
(1) 区别不同词语,包含动词、名词、副词、形容词、介词、情态动词、连词以及疑问词(what、which、who、when)等;
(2) 区别相同动词所对应的不同时态;
(3) 区别不同的短语以及固定搭配;
(4) 根据上下文,选择合适的句子。
图1针对每种分类,列举了对应的例子。从上面的分类可以看出,一个好的自动句子填空系统需要有精细的语义建模能力,并准确地区分词语、词语的时态以及所处的语境。本文利用深度学习方法,并结合神经网络技术,构建了一个融合多源信息的自动句子填空系统。

图1 高考答题题型举例(正确答案在括号内)
本文的主要贡献如下:
(1) 提出了一种依存句法展开序列建模方案,可以高效地将依存句法信息引入到句子填空任务中并发挥显著效果。……
登录APP查看全文
