宋昱,孙文赟,陈昌盛

(1.深圳大学电子与信息工程学院,518060,广东深圳;2.深圳大学深圳市媒体信息内容安全重点实验室,518060,广东深圳;3.深圳大学广东省智能信号处理重点实验室,518060,广东深圳)

主成分分析(PCA)[1]是一种线性变换算法,在图像处理和机器学习中有很多重要的应用。PCA将高维数据投影至低维空间,可以有效地表示高维数据。然而,PCA也有一些缺点。因为PCA采用l2范数的平方衡量原样本与重构样本的误差,所以当数据中有些样本明显远离其他样本,即数据中含有异常样本时,这些异常样本会对PCA的目标函数造成显著的影响[2-5],从而导致标准PCA不能很好地处理含有异常样本的数据。

为了减小异常样本带来的负面效果,研究者提出了很多鲁棒PCA算法。文献[6]和文献[7]通过对样本进行最大似然估计,得到了基于l1范数的PCA算法。文献[6]采用启发式的估计算法检测异常样本,文献[7]采用凸优化算法检测异常样本。文献[8]采用非凸M估计算子作为目标函数,学习得到彩色图像的表示。尽管这些算法具有对异常样本的鲁棒性,但是有一个共同的缺点,即不具有旋转不变性,而旋转不变性是学习算法应具有的一个重要性质[9]。为了保留标准PCA算法的旋转不变性,研究者提出了一些鲁棒的旋转不变PCA算法[3-4,10-13]。文献[10]提出了PCA-L1,采用贪婪算法最大化投影后样本的l1范数。文献[11]提出了一种非贪婪算法,以此求解PCA-L1的目标函数,可以同时求解所有的投影方向。为了扩展PCA-L1算法,文献[12]提出了PCA-Lp算法,该算法最大化投影后样本的lp范数。……