基于LSTM-Attention与CNN混合模型的文本分类方法
2021-07-28滕金保孔韦韦田乔鑫王照乾
计算机工程与应用 2021年14期
滕金保,孔韦韦,田乔鑫,王照乾
1.西安邮电大学,西安710121
2.陕西省网络数据分析与智能处理重点实验室,西安710121
随着互联网技术的飞速发展,大量文本信息不断涌入到互联网中,如何快速高效地将海量文本数据进行归类并提取其中的关键信息尤为重要。文本分类技术便于人们对文本数据处理,有助于提取文本中最有价值的信息,也是自然语言处理中一项最基本的任务,在舆情分析[1]、垃圾邮件识别[2]、情感分析[3]任务中有重要的研究意义,受到了人们的高度重视。
传统的文本分类算法主要是基于统计的分类算法,结合特征工程实现对文本的分类[4]。Chen等[5]提出了一种基于KNN 的新闻文本分类方法,首先对新闻文本进行预处理和特征提取,然后进行数据归一化和降维处理,最后通过KNN 分类器进行分类。Saigal 等[6]提出了一种最小二乘双支持向量机(LS-TWSVM)方法用于文本分类,首先将数据集转换成所需要的格式,然后执行预处理标记和删除不相关的数据,将特征集构造为术语频率和逆文档频率矩阵,从而得到每个文档的代表向量,最后利用LS-TWSVM 进行分类。文献[7]提出用改进的朴素贝叶斯来解决文本分类问题,通过构造一个相关因子,该因子包含了不同类之间的总体相关性,有效地利用了自举的思想,对于较小的训练集数据仍然有不错的效果。以上改进算法虽然在一定程度上提高了文本分类的效果,但都需要人工提取文本特征,且没有考虑特征之间的相关性,忽略了特征之间的相互影响,同时文本存储存在高维稀疏、表达能力弱的缺点[8]。……
登录APP查看全文
