APP下载

特征加权的CLSVSM

2021-05-27牛奉高

计算机与现代化 2021年5期
关键词:语义特征文本

牛奉高,闫 涛

(山西大学数学科学学院,山西 太原 030006)

0 引 言

近几年,大数据观念深入人心,由于信息量的急剧增长,丰富的文本资源在给人们提供巨大便利的同时,数量巨大和种类繁多也带来存储处理和有效检索的困扰。传统的文本信息检索方法虽然提高了不同文本的辨识度且起到了一定的分类作用,但是并没有挖掘文本之间内在的语义联系,耗时长且检索效率不高,其数据化表示和存储尤其是复杂数据的处理也成为了人们关注的焦点。因此,学者们不断地深入剖析文本间的关系,提高文本资源检索[1]、聚合的效率,同时跟上文本信息更新的大步伐,保证信息处理的时效性。

在文本向量空间发展领域内,Salton等[2]于1975年首次提出了以向量空间模型(VSM)来表示文本,基于布尔权重,只分析关键词是否存在于文本中,文本特征词之间两两独立存在,彼此无关联,并未进一步分析其内在联系;文献[3]中广义空间向量模型(GVSM)引入关键词之间的共现信息,但是并不能更深层次表达出来;在此之后,Song等[4]提出了语义向量空间,虽然引入了语义信息,但是聚类结果不太明显,且建立过程较为复杂;Song等[5]为以TF-IDF构建的向量空间的相似度设置阈值,大于阈值的挑选出来,其词权重为所有相关元素的平均权重,不仅有效地降低了特征向量的维数,同时将语义信息整合到文本使用语义词典,从而更好地表达文本的信息。肖志军等[6]和白秋产等[7]分别利用知网将文本表示为义原空间向量和概念空间向量,但只是把词语用知网中的义原或概念表示,没有考虑词语在文本中所占的比重;……

登录APP查看全文

猜你喜欢

语义特征文本
语言与语义
如何表达“特征”
在808DA上文本显示的改善
不忠诚的四个特征
基于doc2vec和TF-IDF的相似文本识别
“上”与“下”语义的不对称性及其认知阐释
文本之中·文本之外·文本之上——童话故事《坐井观天》的教学隐喻
认知范畴模糊与语义模糊
如何快速走进文本
线性代数的应用特征