无监督特征选择的改进稀疏主成分分析算法
2022-03-21范九伦李维昊罗绪瑞支晓斌
范九伦,李维昊,罗绪瑞,支晓斌
(西安邮电大学 通信与信息工程学院,陕西 西安 710121)
在计算机视觉、数据挖掘、模式识别和机器学习领域的人脸识别、基因数据分析等应用中,输入的数据集位于数千维度的观测空间中,高的数据维数限制了很多实际应用,直接分析高维数据不仅计算成本高,处理难度也较大[1-5]。同时,伴随数据维数增高,原数据中噪声数据可能会显著增加,导致对数据分析的结果出现偏差。因此,高效处理高维数据已成为亟需解决的问题。大量研究表明,降维是高维数据分析和处理的重要途径之一。20世纪80年代Svante 首次提出主成分分析[6](Principal Component Analysis,PCA),并将其用于数据降维。PCA作为非常流行的无监督数据处理与降维方法,其主要思想是将n维数据特征映射到k维上(n>>k),寻求原始高维数据特征的线性组合,从而获得高维数据的有效低维表示[7-9]。然而,因为由PCA得到的数据的新特征是数据原特征的线性组合形式,往往缺乏可解释性。随后,Zou等[10]提出了稀疏主成分分析算法(Sparse Principal Component Analysis,SPCA),将PCA表述为一个回归型的优化问题,并引入稀疏正则化项,从而将PCA转变为一种特征选择方法。SPCA不仅可以用于常规数据分析,还可以被有效地应用于基因表达阵列分析。但是,该算法是非凸的,难以得到全局最优解,当局部最优解不为全局最优时,性能很可能会发生非常显著的变化。Chang等[11]提出的凸稀疏主成分分析(Convex Sparse Principal Component Analysis,CSPCA)通过在SPCA中引入低秩惩罚项,并用l2,1-范数取代SPCA损失函数中的F-范数,得到了一种新的SPCA算法。CS……
