APP下载

基于自然语言处理与智能语义识别的舆情监测预警模型研究

2022-09-14张君第

电子设计工程 2022年17期
关键词:爬虫舆情神经网络

张君第

(陕西铁路工程职业技术学院,陕西渭南 714000)

随着互联网技术的发展,用户数量与日俱增。互联网规模增长的一个重要体现就是社交媒体平台的增加,互联网用户通过社交媒体平台发表自身对某新闻的看法已成为常态,而社交媒体也已成为当前最为重要的舆情采集平台。舆情指的是用户对另外的人、事件或者物体所持有的态度、看法和意见[1-2]。

高校学生为互联网用户的主力,学生群体活跃度较高,上网时间也更长。高校舆情数据具有海量性和突发性两大特征,同时,由于部分学生年龄偏小,心智尚未成熟,而不良信息通常会通过极端主义或者道德绑架等形式散播[3],学生极易被谣言舆情煽动,更有甚者会受到不良意识形态的影响走向歧途,这会对学生的管理和学校的形象造成负面影响。因此高校需建立舆情监测系统和舆情预警系统,及时发现伪舆情,并进行必要的辟谣和疏导,对高校意识形态的建设具有重要作用。

1 网络舆情分析研究

网络舆情的分析是社会各界密切关注的问题之一。网络舆情分析主要是对舆情文本的情感进行分析,分析时需要对舆情数据进行数学计算,通过一定的数值来判断舆情真伪。

目前常见的舆情分析方法有3 种:

1)传统方法。传统的网络舆情分析方法依靠人工检测,大部分算法均是主观算法,例如文献[4]中提到的层次分析算法,该算法使用主观权重因子对舆情的真伪进行分辨,费时费力,仅适用于数据量较少的情形。

2)统计学方法。常见的统计算法为意见领袖模型[5-6],实际为马尔科夫过程模型。其在所有舆情评论中寻找出影响力最高的用户,将其权重调高,再对所有用户分类,从而实现舆情的监测和预警。

3)深度学习方法。随着机器学习的不断发展,互联网的海量数据已经实现了机器自动化训练,而无需人工干预。如文献[7]中构建的SVM 模型,使用基于词向量的神经网络模型对Twitter 舆情进行分析和判断。

由此看出,传统方法费时费力且准确性较低,统计学方法准确性较前者有所提高,但无法处理目前的海量数据。而深度学习方法可对海量的数据进行训练,更无需人工干预,其准确性高。因此,该文使用深度学习的相关算法进行舆情模型的构建。

2 网络舆情监测预警模型设计

2.1 模型总体框架

该文构建的网络舆情监测预警模型如图1 所示。整个模型分为3 个模块:数据爬取、数据预处理和数据分析。数据爬取模块使用数据爬虫脚本,对指定网页的内容按照需求进行爬取,然后存储到某文件中供后续使用;随后使用预处理模块对数据进行预处理,预处理部分使用词向量化算法对抓取到的内容进行归一化处理,主要是去重和去噪,以保证计算机可以识别到文本向量;接着将处理好的数据文件传输至模型分析模块,使用语义关联特征算法对文本内容进行分析,并送入至RBF 神经网络模型中进行训练,再对舆情的真伪进行判断;最终,输出判断结果并预警。

图1 网络舆情监测预警模型

2.2 数据爬取模块

数据爬虫种类繁多,但大部分爬虫的功能是按照一定的规则对互联网的网页信息进行自动探测,高效率的数据爬虫可以有效地采集目标消息。

该文使用的数据爬虫基于Scrapy 框架,由该框架搭建的爬虫使用Python 语言编写,可以快速地根据用户需求进行网站数据遍历。其与传统爬虫程序不同的是,Scrapy 爬虫还可对网站的API 数据接口进行爬取,从而大幅提高爬取信息的速度[8-10]。

基于Scrapy 框架的爬虫结构包括爬虫脚本主体、爬虫引擎、调度插件、下载模块、爬虫中间件和管道。爬虫脚本主体的目标就是URL 地址,爬虫将目标URL 地址的内容送入管道中进行存储;爬虫引擎负责内容数据在所有模块中传递;调度插件是将引擎所需的资源请求进行调度;下载模块受爬虫脚本的控制,当爬虫需要下载网页内容时,会调用下载器进行下载。

2.3 数据预处理模块

数据预处理模块分为3 个部分,分别为数据分类模块、文本分词模块以及文本过滤模块。

数据分类模块即对采集得来的数据进行标注,例如负面评论标注a、中性评论标注b、正面评论标注c,这种分类数据作为验证数据集使用;文本分词模块可以使用中文分词脚本,该文使用Jieba 第三方分词工具,该工具基于Python 语言开发,可以将文本进行准确的切分。此外,Jieba 有多种模式,文中使用Jieba.lcut 方法,该方法中的cut 和HMM 参数使用默认值。

2.4 数据分析模块

2.4.1 基于TF-IDF的文本特征提取算法

TF-IDF 算法意为词频-逆向文本频率,该算法中的TF 为词频,通常用于对某一词语在整个文本出现的频率进行衡量。算法中的IDF 为逆文本频率,即在文本中出现次数的倒数。该算法可以表示某一词语在文本中的重要程度[11-12]。TF 的计算公式如式(1)所示:

式中,TF 即为词频,ni,j为第i个词语在第j个文本中出现的次数,分母为第j个文本中所有词汇的个数。IDF 的计算公式如式(2)所示:

式中,IDF 为逆向文本频率,nd为所有文本的个数,df(d,wi)为所有文本中包含有特定单词的文本个数。最终的TF-IDF 公式如式(3)所示:

由式(3)可知,TF-IDF 传统算法只考虑了某一特定单词在文本中出现的频率,并未考虑单词所属类别问题,由此会导致在模型训练时对某一冷门类别有贡献的单词丢失。因此还需在TF-IDF 算法中加入统计学算法,对单词所属类别问题进行修正。文中加入方差因子,得到改进后的算法如下所示:

式中,γi为方差因子,N为文本的特征种类数目。可以看到,当某一特殊单词在文本中波动时,γi便会发生变化。因此,加入方差因子的TF-IDF 算法如下所示:

2.4.2 基于径向基函数的神经网络模型

使用神经网络模型可对文本特征数据进行训练。径向基函数也被称为RBF,由该函数组成的神经网络包括输入层、隐藏层以及输出层[13-14]。RBF 神经网络模型如图2 所示。

图2 RBF神经网络模型

由图2 可知,输入层X为文本数据,数据向量可表示为:

输出层Y为模型的预测结果,可表示为:

隐藏层函数可定义为:

式中,Ci为隐藏层中的中心向量;m为隐藏层中神经元的个数;δi为隐藏层宽度。

由式(8)可知,输入层神经元和中心向量相隔越远,隐藏层作用函数的值就越低。同时还可以观察出,X和R(X)之间的映射关系属于非线性的。而输出层数据和R(X)的关系是线性的,则有:

式中,wkp为输出向量权重值。按照权重值对输出数据进行排序,即可得到舆情数据的分析结果。

2.5 评价指标

在机器学习领域,常见的模型精度评价指标共有3 种,分别为准确率P、召回率R以及F1值[15-16]。准确率是指模型输出结果中正确数据占总数据的比例;召回率是指模型输出结果中正确数据占实际正确数据的比例;而F1 值是准确率和召回率的综合计算结果。评价指标的公式如下所示:

3 实验分析

3.1 数据处理与环境配置

首先使用该文设计的Scrapy 爬虫对该校学生在微博、贴吧等社交平台的发言进行爬取,此次共爬取了20 000 条学生对于时事热点的发言。其中使用16 000 条作为训练样本集,使用4 000 条作为测试样本集合。表1 为此次测试的数据环境配置。

表1 数据环境配置

3.2 数据分类

对抓取到的数据进行预警监控,首先需要对数据的主题进行分类。分类后对句子的情感进行判断,筛选出负面消息进行舆情真假判别。

对句子的主题情感进行分类,共筛选出9 个与政治相关的舆情话题,按照大类共分为国家安全、政府执政以及社会稳定3 个主题。对上述话题按照一定次序排列,如表2 所示。

表2 部分数据分类特征

3.3 算法对比分析

首先对模型的分类能力进行测试,分类数据集合按照表2 的主题进行分类。使用训练数据集对模型进行训练,然后对可行性进行验证。

例如,爬虫抓取到的舆情发言为“台湾是中国不可分割的一部分”、“今年就业太难”以及“这项政策对学生是有利的”,将这3 句话以编号T1、T2、T3 进行指代。模型的分类结果如表3 所示。

由表3 可知,该文的神经网络模型可以对训练集中的句子进行恰当的内容分类。下面验证舆论情感判断的性能,该文使用其他神经网络模型进行相关指标对比,使用到的对比算法为CNN、KNN 和BP神经网络模型。评价指标为准确率、召回率以及F1值。对比测试结果如表4 所示。

表3 分类能力验证

表4 数据集测试结果

由表4 可知,该文模型的准确率、召回率以及F1值三项指标均为最优。在F1 值指标中,相较其他算法提高0.077、0.246 以及0.038,说明该文算法在舆情敏感话题中有较大优势。

除了对算法准确率进行对比外,还需对算法的运行时间进行分析,进而得到算法的效率。该文以算法训练样本所需时间对算法的效率进行判断,文中训练集合共有16 000 条,不同训练样本数量的训练时间如表5 所示。

表5 训练时间对比

由表5 可以看出,该文模型在相同样本数量下所需要的训练时间最短,说明该算法同时兼具有高效性。因此,该文模型的综合性能良好,说明所构建的舆情预警模型可以满足设计需求。

4 结束语

高校舆情数据具有海量和突发两大特点,学生极易被谣言舆情所煽动,因此针对高校的舆情管理极为重要。该文针对传统舆情分析方法的不足,基于自然语言技术和深度学习技术设计了高校网络舆情分析预警系统。该系统设计了TF-IDF 文本分类算法,同时还使用RBF 对数据进行训练。训练测试结果表明,所设计模型的准确率和效率指标均优于其他对比方法。

猜你喜欢

爬虫舆情神经网络
利用网络爬虫技术验证房地产灰犀牛之说
基于递归模糊神经网络的风电平滑控制策略
基于Python的网络爬虫和反爬虫技术研究
神经网络抑制无线通信干扰探究
基于神经网络的中小学生情感分析
大数据背景下校园舆情的爬虫应用研究
数字舆情
数字舆情
大数据环境下基于python的网络爬虫技术
消费舆情