APP下载

脏话文本语料库建设

2014-04-03朱晓旭钱培德

计算机工程与应用 2014年11期
关键词:分类特征文本

朱晓旭 钱培德

ZHU Xiaoxu, QIAN Peide

苏州大学 计算机科学与技术学院,江苏 苏州 215006

School of Computer Science & Technology, Soochow University,Suzhou, Jiangsu 215006, China

1 引言

随着Web2.0的发展深入,论坛、博客和微博等发布与交互平台的普及,用户从被动接受信息转而可以制造信息,大量的用户参与到网络信息的主动发布中来,信息在以爆炸的速度增长。尤其是以微博为代表的社交网络工具,它们具有简单便捷、互动性和时效性极强的特征[1],对这些用户主动发布的文本进行分析与挖掘具有非常大的实际意义与应用价值。

脏话作为一种非正规的语言现象,在现代社会中已经无处不在[2]。脏话表示了表达者一种愤怒的情感,明显具有侮辱、辱骂、攻击他人的意味,但是脏话往往缺乏逻辑性,而且由于网络很多场合是非实名制的,它也是一种不负责任的贬损,显然这与网络的文明背道而驰。在2012年2月的“方舟子与韩寒的大战”中,大量的粉丝蜂拥到对方的博客中用脏话进行谩骂回复;2012年4月的“甄子丹和赵文卓的争论”中,再次出现了该不文明的现象。因此自动识别用户文本中是否包含脏话句子并进行干预处理是一个非常有实用意义的研究课题。

2 相关工作

目前一些在线游戏、论坛中已经提供了类似脏话检测的功能,主要的手段是通过脏话词典进行机械匹配,通常的步骤是:首先对用户输入文本进行分词,然后对分词结果进行脏话关键词机械匹配,如果匹配到明显的脏话关键词,则禁止该语句的提交,或者将认为的敏感内容替换为星号,图1就是国内某知名游戏平台上对用户的发布文本进行处理后的结果。……

登录APP查看全文

猜你喜欢

分类特征文本
分类算一算
如何表达“特征”
在808DA上文本显示的改善
不忠诚的四个特征
基于doc2vec和TF-IDF的相似文本识别
教你一招:数的分类
文本之中·文本之外·文本之上——童话故事《坐井观天》的教学隐喻
如何快速走进文本
线性代数的应用特征