支晓斌,芦玉良

(1.西安邮电大学 理学院,陕西 西安 710121;　2.西安邮电大学 通信与信息工程学院,陕西 西安 710121)

聚类分析是一种基本的多元统计分析方法，是无监督模式识别的一个重要分支[1]。聚类分析能够根据数据间的相似性对其进行自动分类，对于探索数据集的内部结构具有重要意义，已在模式识别、图像处理和数据挖掘等领域得到广泛应用。但在实际应用中，聚类分析经常会面临高维数据，“维数灾难”问题使传统聚类算法的聚类精度显著退化，难以得到理想的聚类效果。对高维数据的聚类已经成为聚类分析领域的一个挑战性问题[2]。

判别聚类(discriminative clustering,DC)算法首次将线性判别分析(linear discriminant analysis,LDA)和聚类算法结合，在完成对数据特征提取实现降维的同时对数据进行聚类[3]，但DC算法中所用的LDA存在散度矩阵奇异性问题和求解特征值计算复杂度高的问题。判别嵌入式聚类(discriminative embedded clustering,DEC)算法[4]采用最大间距准则(maximum margin criterion,MMC)[5-8]取代LDA来对数据降维，解决了散度矩阵奇异问题。但是，DEC算法与DC算法类似，需要求解特征值问题，仍然存在计算复杂度高的问题，严重影响着其实际应用[9]。改进的判别嵌入式聚类(efficient discriminative embedded clustering,EDEC)算法[9]在原DEC算法上对数据进行变换预处理，利用QR分解对类间散度矩阵做特征分解，对数据做初次降维处理，在此基础上用MMC对数据进行二次降维，两次降维提高了DEC算法的聚类效率。

LDA等价于最小二乘问题，此结论推广至正则化的情形后，可得出一种高效率的LDA方法，即基于最小二乘法的线性判别分析(least square based linear discriminant analysis,LSLDA)算法[10]。……