APP下载

基于多头自注意力和并行混合模型的文本情感分析

2021-01-21李辉黄钰杰

关键词:分类特征文本

李辉,黄钰杰

(1.河南理工大学 物理与电子信息学院,河南 焦作 454000;2.河南理工大学 电气工程与自动化学院,河南 焦作 454000)

0 引 言

近年来,随着互联网产业快速发展,出现了众多新兴媒体,它们通过互联网可以获得用户评论、品牌、情感、政治和观点等大量数据。情感分析是一种特殊的文本挖掘工作,是从给定的文本中提取人们的态度或情感。目前,文本情感分析[1]是自然语言处理(natural language processing,NLP)领域中的研究热点,它是针对非结构化信息,挖掘其蕴涵的深层次情感或倾向。

目前,有很多使用基于机器学习的情感分析技术进行文本分析,取得了不错的效果[2-3],但是这些方法不能有效地表达复杂的函数计算,并且需要人工选择数据特征,泛化能力较弱,而深度学习能够从原始数据中自动学习重要的数据特征,并处理各种复杂任务,在建模、解释、表达能力以及优化等方面优势明显。将深度学习应用于文本情感分析领域,极大地推进了文本情感分析的研究与发展[4]。G.E.Hinton等[5]提出了深度学习的概念,即利用深度学习网络构建一个高质量的语言模型处理自然语言问题。在现有的深度学习模型中最热门的网络模型是循环神经网络(recurrent neural network,RNN)模型[6]和卷积神经网络(convolutional neural network,CNN)模型[7]。CNN是目前应用最为广泛的一种深度学习结构,具有局部感受野、权值共享和下采样3个特点,使其在捕捉文本局部特征信息上具有很大的优势。它处理的是序列化特征信息,RNN是通过一种链式神经网络对历史信息进行储存和传播,减少网络的训练参数,提升训练速度。……

登录APP查看全文

猜你喜欢

分类特征文本
分类算一算
如何表达“特征”
在808DA上文本显示的改善
不忠诚的四个特征
基于doc2vec和TF-IDF的相似文本识别
教你一招:数的分类
文本之中·文本之外·文本之上——童话故事《坐井观天》的教学隐喻
如何快速走进文本
线性代数的应用特征