冯冲 康丽琪 石戈 黄河燕

因果关系是“原因”和“结果”之间的关系,是引起和被引起的关系.因果关系作为一种重要的关系类型,在许多任务(例如事件预测[1]、情景生成[2]、问答[3]、文本蕴涵等)中起着重要作用.自然语言文本中存在大量的因果关系.例如,新闻文本中经常报道事故及其造成的后果:Thehe1iarresth/e1ihas caused anhe2ioutcryh/e2iof indignation among some industrial and political circles in France.该例包含了arrest(逮捕)和outcry(强烈抗议)之间的因果关系.其中,he1i、h/e1i、he2i和h/e2i是用来标识两个实体名词性词的位置指示标签[4].

因果关系的抽取方法主要分为两类:基于模式匹配的方法和基于机器学习的方法.基于模式匹配的方法包括词典语法模式、语义关系模式等.基于机器学习的方法包括支持向量机(Support vector machine,SVM)、决策树(Decision tree)等.这些方法主要依赖特征工程,但是特征工程涵盖了繁琐的特征选择和不准确的特征提取,计算开销大且存在错误传播的问题.以往的方法利用WordNet、NomLex-Plus以及VerbNet等知识库抽取特征,对知识库依赖性强.

为避免特征工程的一系列问题,本文在因果关系抽取任务上探索新的方法.自2014年以来,Goodfellow等[5]提出的生成式对抗网络(Generative adversarial networks,GAN)在生成式任务上取得巨大进展.GAN在结构上受到博弈论的启发,系统由一个生成模型和一个判别模型构成,如图1所示.生成模型捕捉真实数据样本的潜在分布,并生成新的数据样本;判别模型是一个二分类器,判别输入是真实数据还是生成的样本.判别模型的存在使得GAN中的生成模型能够学习去逼近真实数据,最终让其生成的数据达到以假乱真的……