武梦旭

（燕山大学 理学院，河北 秦皇岛066004）

一、引言

识别网络不良文本问题的实质是文本分类问题，即将网络文本分为正常文本和不良文本两类，其中不良文本多是敏感性、攻击性、辱骂性的内容。对于不良文本信息的拦截过滤技术研究可以追溯到21世纪初，Denning[1]首次提出了垃圾信息过滤的概念，在邮件的接收过程中可以通过邮件内容判断邮件的紧急性，以保证邮件接收者及时处理紧急邮件。近年来，许多研究人员在社交媒体安全性研究方面取得了长足进步，对不良内容的过滤许多都是基于黑白名单、关键字、规则表达式和分类技术等方法。Njaji、Zhang等[2]利用与仇恨言论相关的主观性和语义特征，构建包含仇恨动词的词典来检测仇恨言论。Silva、Mondal等[3]根据句子结构提出一个基本表达式来检测Whisper和Twitter中的仇恨言论，并将这些仇恨言论通过人工标记划分细粒度。

随着自然语言处理技术的发展以及计算机性能的提高，深度学习网络模型逐渐应用到文本分类领域，凭借其高效的特征提取方法，能够有效的提升分类效果。卷积神经网络（Convolutional Neural Network，CNN）和循环神经网络（Recurrent Neural Network，RNN）是深度神经网络的两个主要结构。Le、Botton等[4]在研究计算机图像处理时首次提出卷积神经网络，主要利用卷积核提取局部特征，效果优于当时其他技术。Socher、Huval等[5]利用矩阵和向量构建了一个循环神经网络（MV-RNN），通过该网络能够从任意句法类型和长短不一的句子中学习潜在的语义关系，每个句子生成长度一致的特征向量，实验结果显示相比传统机器学习算法其效果更好。……