Skip-Gram结构和词嵌入特性的文本主题建模
2020-07-13夏家莉曹中华彭文忠张守胜
小型微型计算机系统 2020年7期
夏家莉,曹中华,2,彭文忠,张守胜
1(江西财经大学 信息管理学院、财政大数据中心,南昌 330032) 2(江西师范大学 软件学院,南昌 330022)
1 引 言
从大量文本中获取主题,一直是文本挖掘领域的研究热点.主题挖掘相关模型常采用无监督的学习方式,可以从文本语料挖掘具有不同语义的主题,并将文本表示为不同主题的混合分布,从而帮助人们理解大量文本所描述的主要内容.
随着神经网络和词嵌入方法在许多NLP任务中取得成功,近年来,出现了许多应用词嵌入向量和神经网络结构的文本主题模型研究,这些研究结果显示,使用词嵌入的主题模型能够极大地提高文本主题的挖掘效果.早期的主题效果评价多采用困惑度的方法,然而后续的一些研究也表明,困惑度的评价和人们对主题词的理解结果并不一致,由此研究者提出了主题一致性的评价标准,主题代表词的一致性可以更好的评价主题模型的效果.
常见的词嵌入向量获取模型[1,2]和主题一致性评价[3,4]方法都使用了词的点互信息(point-wise mutual information,pmi),二者存在紧密的联系,但是现今还较少见到,在深入分析二者间的联系后,将词向量自身所具有的主题特点应用于主题模型的研究.本文主要贡献有:1)分析了主题一致性和词嵌入向量间的联系,引入Softmax函数生成主题-词项分布,从而关联主题嵌入和词嵌入,以能够使用词嵌入的主题特性;2)提出主题分布式假设:具有相似邻居的词具有相似的主题分布值,并……
登录APP查看全文
