APP下载

基于LDA2Vec联合训练的热点主题识别方法

2021-09-06胡伟华

西安工程大学学报 2021年4期
关键词:语义信息模型

薛 涛,郭 莹,胡伟华

(1.西安工程大学 计算机科学学院,陕西 西安 710048;2.西安工程大学 人文社会科学学院,陕西 西安 710048)

0 引 言

随着大数据时代的到来,如何快速从海量网络新闻中获取有效的热点话题已经成为研究热点。主题模型[1]作为一种时效性较高的热点主题识别方法,能够有效提取文档集及语料库中的隐含主题,抽取出词汇与文档间的深层次语义关系,在文本分类[2]、话题检测与演化追踪[3]、情感分析[4]等任务中具有重要意义。如在分析国际社会对中国形象的关注重点和热点趋势时,有利于了解中国在国际上的受关注领域和程度以及形象认知变化。

目前,结合深度学习的主题模型研究主要分为3类:词/文档向量辅助增强的概率主题模型、基于神经网络结构的主题模型和联合训练主题模型。词向量辅助增强主题模型[5-6]是利用已训练好的词向量提升模型性能,其优势在应用于短文本和领域文本时,产生的主题词语义一致性更强。基于神经网络结构的主题模型[7-8]是一种文档生成模型,但其多数模型依然以文档词袋结构[9]作为模型输入,产生主题-词汇的分布,忽略了词汇间顺序和分布的稀疏性[10]。联合训练主题模型[11-12]融合了概率主题模型和基于神经网络模型的优势,既可以利用潜在主题结构捕获文档全局的语义信息,也可以捕获词序列中词汇间依赖关系[1]。对于新闻文本的热点主题识别任务,侧重生成表达不同主题的词向量,实现文本分类和主题推断,所以文中采用联合训练主题模型,通过在主题模型基础上结合词表示、文档表示以及其他属性信息,将主题向量和词向量融合到同一语义空间中形成嵌入式向量模型进而学习主题。……

登录APP查看全文

猜你喜欢

语义信息模型
一半模型
重尾非线性自回归模型自加权M-估计的渐近分布
语言与语义
订阅信息
3D打印中的模型分割与打包
“上”与“下”语义的不对称性及其认知阐释
认知范畴模糊与语义模糊
展会信息
语义分析与汉俄副名组合
健康信息