陈 欢，黄 勃 ，2，朱翌民，俞 雷，余宇新

1.上海工程技术大学 电子电气工程学院，上海 201620

2.江西省经济犯罪侦查与防控技术协同创新中心，南昌 330103

3.上海外国语大学 国际金融贸易学院，上海 201620

1 引言

随着Web2.0时代的到来，以微博、电商为首的平台的快速发展，网民可以快速地在网络平台上表达自己的观点和看法。其中短文本逐渐成为网络文本信息的主体，与其他网络文本相比其在数量上有着巨大的优势。挖掘短文本中的情感信息和观点态度，实现对文本的情感分类有着重要的现实意义。文本情感分类包括分词、文本表示、特征提取、分类四个过程。

传统的文本情感分类模型对文本进行one-hot 编码，利用TF-IDF[1]、交叉熵[2]等进行特征提取，然后使用SVM[3]、Random Forest[4]等分类器进行分类。LDA[5]（Latent Dirichlet Allocation）模型在经历了LSI[6（]Latent Semantic Indexing）、PLSI[7（]Probabilistic Latent Semantic Indexing）等技术的发展后，被广泛用于文本特征提取。例如吴江等人[8]使用LDA模型进行主题特征词选取，组成特征词库进行特征提取。胡勇军等人[9]针对短文本特征稀疏、噪声大的缺点，使用LDA模型将概率大于某一阈值的主题词分布的高频词扩展到文本中，以降低短文本分类时噪声和稀疏性的影响。近年来，深度学习算法的快速发展给文本情感分类带来了新的思路。其中基于注意力机制和LSTM（Long Short Term Memory network）的一类算法成为了主流的文本情感分类算法。其中LSTM用于获取文本的上下文依赖关系，注意力机制对LSTM 编码后的文本进行权重分配，然后进行情感分类[10-12]。例如吴小华等[11]针对分词的准确性问题提出了基于字向量的表示方法并使用Self-Attention和Bi-LSTM进行中文短文本情感分类。……