APP下载

利用词的分布式表示改进作文跑题检测

2015-04-21陈志鹏陈文亮朱慕华

中文信息学报 2015年5期
关键词:文本作文检测

陈志鹏,陈文亮,朱慕华

(1. 苏州大学 计算机科学与技术学院,江苏 苏州 215006;2. 软件新技术与产业化协同创新中心,江苏 苏州 215006;3. 淘宝(中国)软件有限公司,浙江 杭州 311100)



利用词的分布式表示改进作文跑题检测

陈志鹏1,2,陈文亮1,2,朱慕华3

(1. 苏州大学 计算机科学与技术学院,江苏 苏州 215006;2. 软件新技术与产业化协同创新中心,江苏 苏州 215006;3. 淘宝(中国)软件有限公司,浙江 杭州 311100)

作文跑题检测任务的核心问题是文本相似度计算。传统的文本相似度计算方法一般基于向量空间模型,即把文本表示成高维向量,再计算文本之间的相似度。这种方法只考虑文本中出现的词项(词袋模型),而没有利用词项的语义信息。该文提出一种新的文本相似度计算方法:基于词扩展的文本相似度计算方法,将词袋模型(Bag-of-Words)方法与词的分布式表示相结合,在词的分布式表示向量空间中寻找与文本出现的词项语义上相似的词加入到文本表示中,实现文本中单词的扩展。然后对扩展后的文本计算相似度。该文将这种方法运用到英文作文的跑题检测中,构建一套跑题检测系统,并在一个真实数据中进行测试。实验结果表明该文的跑题检测系统能有效识别跑题作文,性能明显高于基准系统。

文本相似度;词分布式表示;跑题检测;文本表示

1 引言

作文跑题指文章偏离了预设的主题。举个例子,例如,现在有一个题目“online shopping”,很明显是要求写关于网上购物的文章。如果学生写的文章与此无关,而是写的其他主题的文章,比如写的是关于读书的文章或者是关于大学生活的文章,我们就认为该作文跑题。……

登录APP查看全文

猜你喜欢

文本作文检测
在808DA上文本显示的改善
基于doc2vec和TF-IDF的相似文本识别
红批有声作文
红批有声作文
红批作文
红批作文
小波变换在PCB缺陷检测中的应用
文本之中·文本之外·文本之上——童话故事《坐井观天》的教学隐喻
如何快速走进文本