APP下载

使用LSA降维的改进ART2神经网络文本聚类

2014-08-05徐晨凯高茂庭

计算机工程与应用 2014年24期
关键词:文本

徐晨凯,高茂庭

上海海事大学 信息工程学院,上海 201306

使用LSA降维的改进ART2神经网络文本聚类

徐晨凯,高茂庭

上海海事大学 信息工程学院,上海 201306

1 引言

随着网络信息的快速增长,每天发布的文本数量呈指数级增长,提供一种有效的文本组织方式显得日趋重要,而文本聚类可以对文本数据进行较为科学合理的聚类分析和处理,能够有效地帮助人们去获取想要的各种信息。

一方面,文本通常采用G.Salton等人提出的向量空间模型[1](Vector Space Model,VSM)来表示,并通过如TD-IDF算法[2]来提取特征词的权重,从而形成文本集的矩阵表示。由于文本中出现的单词众多,文本特征矩阵往往表现出巨大的维数,从而导致维数灾难,文本聚类计算复杂,一些经典统计算法无法适用等。解决这些问题的一种有效办法就是先对数据进行降维处理。目前,人们已经提出了许多降维方法,如:主成分分析PCA、独立成分分析ICA、隐含语义分析LSA[3],其中隐含语义分析LSA根据矩阵奇异值分解理论达到快速降维,是一种较为有效的降维方法。

另一方面,为了对文本数据进行有效的聚类处理,人们已经使用了许多有效的聚类方法,如经典的k-means聚类算法[4]、基于SOM神经网络[5]的文本聚类算法等。但这些方法往往需要大量的先验知识来确定聚类簇数目,无法动态学习,对于新向量的学习会影响到已经学习的向量等问题。而根据自适应共振理论提出的ART2神经网络[6-8](简称ART2网络)可以有效地动态学习,并且实现记忆和学习的平衡,还能自适应地确定聚类的数目。……

登录APP查看全文

猜你喜欢

文本
重点:论述类文本阅读
重点:实用类文本阅读
初中群文阅读的文本选择及组织
作为“文本链”的元电影
在808DA上文本显示的改善
“文化传承与理解”离不开对具体文本的解读与把握
基于doc2vec和TF-IDF的相似文本识别
文本之中·文本之外·文本之上——童话故事《坐井观天》的教学隐喻
从背景出发还是从文本出发
如何快速走进文本