彭玉青,宋初柏,闫 倩,赵晓松,魏 铭

(河北工业大学 人工智能与数据科学学院,天津 300401)

0 概述

随着互联网技术和移动社交网络平台的发展,网络中的文本信息量呈爆发式增长,鉴于网络平台实时性较强的特点,这些文本信息虽然具有极大的潜在价值,但是在网络中以杂乱的形式存在,缺乏有效的信息组织和管理。而文本分类作为组织和管理文本信息的有效方法,能够解决信息杂乱问题,且在信息分拣、个性化新闻推荐、垃圾邮件过滤、用户意图分析等领域得到了广泛应用,也受到越来越多研究者的关注。

目前,常用的文本分类方法有朴素贝叶斯、K最近邻(K-Nearest Neighbor,KNN)、隐马尔科夫模型(Hidden Markov Model,HMM)、支持向量机(Support Vector Machine,SVM)等。在这些方法中,有些需要人工提取特征,有些由于随机向量的分量无关性,会引起主题之间不相关的问题。针对这些不足,越来越多的学者将神经网络应用到文本分类领域[1],目前常用于文本分类的神经网络结构包括BP神经网络、卷积神经网络(Convolution Neural Network,CNN)、循环神经网络(Recurrent Neural Network,RNN)等。

本文建立一种超深卷积神经网络(Very Deep Convolution Neural Network,VDCNN)和长短期记忆网络(Long Short-Term Memory network,LSTM)混合模型,使用词嵌入(Word Embedding)将文本转换为低维度向量,以提升对词向量化后的文本进行分类的精确率,然后通过实验验证该模型的分类效果。

1 相关工作

为提高当前文本分类方法的准确率,很多学者进行了研究。文献[2]提出一种基于文本加权的KNN算法,其利用文本加权提升KNN算法对文本进行分类时的准确率。文献[3]使用基于LSTM和门阀递归单元(Gated Recurrent Unit,GRU)计算节点的双向递归神经网络来提取文本特征,然后使用Softmax对文本特征进行分类。……