APP下载

一种基于词义降维的主题特征选择算法

2016-09-26粟武林

计算机应用与软件 2016年3期
关键词:文本模型

肖 雷 王 旭 粟武林

1(河北大学电子信息工程学院 河北 保定 071000)2(河北大学数学与计算机学院 河北 保定 071000)



一种基于词义降维的主题特征选择算法

肖雷1王旭1粟武林2

1(河北大学电子信息工程学院河北 保定 071000)2(河北大学数学与计算机学院河北 保定 071000)

在文本特征选择中,由于词语概率空间和词义概率空间的差异,完全基于词语概率的主题特征往往不能很好地表达文章的思想,也不利于文本的分类。为达到主题特征更能反映文章思想这一目的,提取出一种基于词义降维的主题特征选择算法。该算法通过在词林基础上构建“同义词表”,作为词到词义的映射矩阵,构造一个基于词义之上的概率分布,通过LDA提取文本特征用于分类,分类准确率得到了明显提高。实验表明,基于此种方法所建立的主题模型将有更强的主题表示维度,通过该算法基本解决文本特征提取中词语概率和词义概率之间差异的问题。

LDA主题模型主题表示维度

0 引 言

随着计算机对文本表示的不断深入,人们力求更具表现力的方式表达文本本身的语义信息,从早期的潜在语义分析就开始了这方面的探索[1],后来经过实践发现“主题模型”在文本特征表示上应用较为成功[2]。因为它存在坚实的数学基础,与传统的空间向量[3]模型比,通过考虑词语在文档中的共现概率而引入了“主题”维度,使文档表示从概率空间到语意空间得到了延伸。虽然这种“语意”是通过词语出现的概率来间接模拟的,但它容易被扩展,在文本挖掘和信息检索等实际任务中广泛应。……

登录APP查看全文

猜你喜欢

文本模型
一半模型
初中群文阅读的文本选择及组织
重尾非线性自回归模型自加权M-估计的渐近分布
在808DA上文本显示的改善
基于doc2vec和TF-IDF的相似文本识别
3D打印中的模型分割与打包
文本之中·文本之外·文本之上——童话故事《坐井观天》的教学隐喻
論《柳毅傳》對前代文本的繼承與轉化
FLUKA几何模型到CAD几何模型转换方法初步研究
如何快速走进文本