基于加权词向量和LSTM-CNN的微博文本分类研究
2018-10-22马远浩曾卫明石玉虎徐鹏
马远浩,曾卫明,石玉虎,徐鹏
(上海海事大学信息工程学院,上海201306)
0 引言
随着信息时代的来临,各种社交媒体得到了迅速发展。其中,微博作为一种通过关注机制分享简短实时信息的社交网络平台,越来越多的网民选择利用微博来发表自己的观点情感。由于微博文本内容的长度限定在140个字符以内,与传统的评论内容长度相差较大,内容简短,其原创性特别强。因此,对微博文本数据进行分析挖掘,从中发掘出用户的兴趣爱好、发现热点话题、以及开发个性化推荐系统都具有非常大的研究价值。然而,由于微博其庞大的数据信息量以及文本语言信息不规范性等原因,使得要从这些庞大的文本信息中去分析判断人们的情感态度变得非常困难,所以仅仅依靠传统的人工方法进行挖掘分析显然不够准确。因此,想要在最短的时间内挖掘出有价值的文本信息,就需要一些自动化的文本信息挖掘技术的帮助。其中,自然语言处理技术(NLP)是目前解决该类问题的重要途径,通过对微博上用户发表的评论进行分析,可从中判断出用户的主观情感倾向。
自上世纪50年代开始就已经开始了对文本分类的研究。Zhang等[1]利用One-hot Representation对文本进行向量化表示的基础上,借助支持向量机(Sup⁃port Vector Machine,SVM)和反向传播(Back Propaga⁃tion,BP)神经网络实现对文本的高效分类。Hinton等人[2]提出了Distributed Representation概念,通称词向量(Word Embedding)。龚静等人[3]利用改进的TF-IDF算法提取文本特征,并利用朴素贝叶斯分类器进行文本分类。豆孟寰[4]基于N-Gram统计语言模型对文本分类,N-Gram模型根据每个词出现在其前面n个词的概率来表示文本。……
