APP下载

基于点互信息语义相似性的向量空间模型

2021-05-19牛奉高赵霞徐倩丽

山西大学学报(自然科学版) 2021年2期
关键词:语义文本实验

牛奉高,赵霞,徐倩丽

(山西大学 数学科学学院,山西 太原 030006)

0 引言

大数据时代,文本数据极大丰富的同时,资源检索精度下降,检索成本也在增加,我们往往渴望快速获得自己理想的资源,因而,对信息检索、文本分类与聚类、自动问答系统等的要求也进一步提高。语义相似度计算则是这些应用的必要技术[1]。词语相似度用于度量两个词语之间是否存在语义关系,以及语义关系的强弱,是自然语言处理(Natural Language Processing,NLP)的关键环节,也是信息检索、问答系统、情感分析等众多NLP下游应用的基础,所以如何正确计算词语的相似性显得尤为重要[2]。在文本分类和聚类领域,语义相似度的计算起着重要的作用,只有充分、准确的提取挖掘文本中词与词之间的语义信息,才能使词之间相似度的计算更加精准,进而更好地对文本进行分类、聚类,在应用中达到理想的效果。本文主要利用点互信息(Point Mutual Information,PMI)估计特征词间的语义相似度,结合共现潜在语义向量空间模型(Co-occurrence Latent Semantic Vector Space Model,CLSVSM)思想,构建新的文本表示模型,提高信息检索精度,降低检索成本。同时将点互信息估计特征词间语义相似度的方法与word2vec[3]估计语义相似度的方法进行比较,突出前者的优势所在。

1 研究现状

1.1 相关研究现状

文本的表示源于信息检索研究。文本表示是文本分析工作中最基础的一个环节,文本表示的结果会直接影响文本分析的效率和准确率[4]。最基本的表示方法是由Salton[5]提出的向量空间模型(Vector Space Model,VSM),它将每个文献映射为词空间中的高维向量,因此在进行文本聚类时,文本之间语义的相似度计算便转化为向量空间中向量距离或夹角的计算,即:通过相应向量的聚类实现文本聚类[6]。……

登录APP查看全文

猜你喜欢

语义文本实验
记一次有趣的实验
语言与语义
在808DA上文本显示的改善
做个怪怪长实验
基于doc2vec和TF-IDF的相似文本识别
NO与NO2相互转化实验的改进
实践十号上的19项实验
“上”与“下”语义的不对称性及其认知阐释
文本之中·文本之外·文本之上——童话故事《坐井观天》的教学隐喻
认知范畴模糊与语义模糊