基于HNC理论的社区问答系统问句检索模型构建
2018-08-15夏远远
计算机应用与软件 2018年8期
夏远远 王 宇
(大连理工大学管理与经济学部 辽宁 大连 116024)
0 引 言
近年来,问答系统逐渐兴起和发展,提供了不同于搜索引擎返回关于搜索关键字的一系列相关文档的知识获取方式,在社区用户的参与下问答系统可以准确地提供用户用自然语言提出的问题的答案。典型的问答系统如百度知道、知乎、Quora、Yahoo!Answers等,以“知乎”网站为例,累计共有超过1 000万个提问以及3 400万个回答,其中有相当一部分问题得到了解决。问句检索的主要任务是在问答系统知识库的基础上,检索出与当前提问相似的历史已解决的问题,缩短用户获取答案的等待时间,以及减少用户重复提交问题造成系统冗余[1]。
问句检索面临的主要困难是相似语义的查询问句与候选问句之间的词不匹配问题,如“失眠如何解决?”和“怎样快速入睡?”这两个问题,使用了完全不同的词汇形式表达相似的语义,并且由于问答系统问句一般以短文本形式呈现,缺乏足够的背景语义信息,使得基于严格词匹配的方法(如VSM模型[2])不能够召回这样语义相似但词形不同的问句。
为此,Ponte等[3]将统计语言模型的方法应用到文档检索中,对每一个候选文档估计生成查询的概率,再根据概率的大小对文档排序。Jeon等[4]使用统计机器翻译概率平滑语言模型,提出了一种基于统计翻译的语言模型,借助统计翻译获得的背景语义信息,在一定程度上解决了语言模型的词不匹配问题。Xue[5]等将语言模型的背景平滑机制融入到IBM Model 1中,提出了基于翻译模型的语言模型,其通过答案相似度判断问题相似的方法构造翻译模型平行语料,也在一定程度上解决了翻译噪声的问题。……
登录APP查看全文
