使用LSA降维的改进ART2神经网络文本聚类
2014-08-05徐晨凯高茂庭
计算机工程与应用 2014年24期
关键词:文本
徐晨凯,高茂庭
上海海事大学 信息工程学院,上海 201306
使用LSA降维的改进ART2神经网络文本聚类
徐晨凯,高茂庭
上海海事大学 信息工程学院,上海 201306
1 引言
随着网络信息的快速增长,每天发布的文本数量呈指数级增长,提供一种有效的文本组织方式显得日趋重要,而文本聚类可以对文本数据进行较为科学合理的聚类分析和处理,能够有效地帮助人们去获取想要的各种信息。
一方面,文本通常采用G.Salton等人提出的向量空间模型[1](Vector Space Model,VSM)来表示,并通过如TD-IDF算法[2]来提取特征词的权重,从而形成文本集的矩阵表示。由于文本中出现的单词众多,文本特征矩阵往往表现出巨大的维数,从而导致维数灾难,文本聚类计算复杂,一些经典统计算法无法适用等。解决这些问题的一种有效办法就是先对数据进行降维处理。目前,人们已经提出了许多降维方法,如:主成分分析PCA、独立成分分析ICA、隐含语义分析LSA[3],其中隐含语义分析LSA根据矩阵奇异值分解理论达到快速降维,是一种较为有效的降维方法。
另一方面,为了对文本数据进行有效的聚类处理,人们已经使用了许多有效的聚类方法,如经典的k-means聚类算法[4]、基于SOM神经网络[5]的文本聚类算法等。但这些方法往往需要大量的先验知识来确定聚类簇数目,无法动态学习,对于新向量的学习会影响到已经学习的向量等问题。而根据自适应共振理论提出的ART2神经网络[6-8](简称ART2网络)可以有效地动态学习,并且实现记忆和学习的平衡,还能自适应地确定聚类的数目。……
登录APP查看全文
