APP下载

Skip-Gram结构和词嵌入特性的文本主题建模

2020-07-13夏家莉曹中华彭文忠张守胜

小型微型计算机系统 2020年7期
关键词:一致性文本模型

夏家莉,曹中华,2,彭文忠,张守胜

1(江西财经大学 信息管理学院、财政大数据中心,南昌 330032) 2(江西师范大学 软件学院,南昌 330022)

1 引 言

从大量文本中获取主题,一直是文本挖掘领域的研究热点.主题挖掘相关模型常采用无监督的学习方式,可以从文本语料挖掘具有不同语义的主题,并将文本表示为不同主题的混合分布,从而帮助人们理解大量文本所描述的主要内容.

随着神经网络和词嵌入方法在许多NLP任务中取得成功,近年来,出现了许多应用词嵌入向量和神经网络结构的文本主题模型研究,这些研究结果显示,使用词嵌入的主题模型能够极大地提高文本主题的挖掘效果.早期的主题效果评价多采用困惑度的方法,然而后续的一些研究也表明,困惑度的评价和人们对主题词的理解结果并不一致,由此研究者提出了主题一致性的评价标准,主题代表词的一致性可以更好的评价主题模型的效果.

常见的词嵌入向量获取模型[1,2]和主题一致性评价[3,4]方法都使用了词的点互信息(point-wise mutual information,pmi),二者存在紧密的联系,但是现今还较少见到,在深入分析二者间的联系后,将词向量自身所具有的主题特点应用于主题模型的研究.本文主要贡献有:1)分析了主题一致性和词嵌入向量间的联系,引入Softmax函数生成主题-词项分布,从而关联主题嵌入和词嵌入,以能够使用词嵌入的主题特性;2)提出主题分布式假设:具有相似邻居的词具有相似的主题分布值,并……

登录APP查看全文

猜你喜欢

一致性文本模型
一半模型
关注减污降碳协同的一致性和整体性
注重教、学、评一致性 提高一轮复习效率
IOl-master 700和Pentacam测量Kappa角一致性分析
重尾非线性自回归模型自加权M-估计的渐近分布
在808DA上文本显示的改善
基于doc2vec和TF-IDF的相似文本识别
3D打印中的模型分割与打包
文本之中·文本之外·文本之上——童话故事《坐井观天》的教学隐喻
基于事件触发的多智能体输入饱和一致性控制