赵璇　刘辉

摘要：一维常规LPP方法应用于人脸识别数据时，由于通常存在矩阵奇异性问题，相应特征方程不可直接求解；目前已提出了二维局部保持投影算法（2DLPP）可以解决上述问题。但需要指出的是，2DLPP是一个非监督的学习方法，其只考虑了数据的距离关系，而忽视了合理处理不同类别样本间关系的问题。本文将介绍的2DLPP改进方法——二维判别监督局部保持投影（2DDSLPP）的方法能利用监督学习的手段改进2DLPP，提高其分类性能。通过实验证明，可以大大提高识别率。

Abstract： Because of the matrices singularity， the corresponding characteristic equations can not be directly solved when the one dimensional regular LPP method is applied to face recognition data， the two dimensional locality preserving projection （2DLPP） can directly solve the above problems. But it should be pointed out that， 2DLPP is an unsupervised learning method， it only considers the distance relationship of the data， and ignores to reasonably deal with the relationship among different categories. This article will introduce the improved method of 2DLPP——two-dimensional discrimination and supervision locality preserving projection （2DDSLPP）， it can use supervised learning method to improve 2DLPP， improve its classification performance. The experiment proves that the recognition rate is improved greatly.

关键词：人脸识别；局部保持投影；线性判别分析；子空间

Key words： face identification；locality preserving projection；linear discriminant analysis；subspace

中图分类号：TP391.4 文献标识码：A 文章编号：1006-4311（2016）05-0219-02

0 引言

人脸识别在身份识别、安全监控等领域的广泛应用，使其逐渐成为模式识别及人工智能的重要组成部分。近期，基于子空间方法的人脸识别迅速发展，已提出很多识别方法，如主成分分析（Principal Component Analysis，简称PCA）和线性判别分析[1]（Linear Discriminant Analysis，简称LDA）。而PCA和LDA方法的前提条件是样本服从多元正态分布，而研究表明，人脸图像不一定服从正态分布[2]，在此背景下，两种方法都无法获得预期的应用效果。因此，局部保持投影（Locality Preserving Projection，简称LPP）应运而生。与上述方法相比，LPP在投影时可以保持样本的局部结构[3]，投射到流形结构上的人脸图像更能反映其本质，因此LPP的应用性能远优于PCA。近期研究表明，常规的LPP方法理论上存在一些问题[4]：首先，一维LPP方法应用于高维数据时，通常存在矩阵奇异性问题，其相应特征方程不可直接求解；另外，在高维数据情况下，虽然已有的PCA+LPP方案能得出可直接求解的特征方程，但也存在变换结果与真正的具有较强局部拓扑结构保持性质的变换结果相差太大的理论缺陷[6]。

目前研究者已提出了二维局部保持投影算法[7]（2DLPP）。2DLPP算法和LPP算法相比，拥有很低的时间复杂度。而且，由于2DLPP中矩阵的维数远低于一维LPP，2DLPP一般不存在小样本问题。但是，2DLPP是一个非监督的学习方法[8]，其只考虑了数据的距离关系，而忽视了合理处理不同类别样本间关系的问题。假如能利用监督学习的手段改进2DLPP，则有望提高其分类性能。本文将介绍的2DLPP——二维判别监督局部保持投影（2DDSLPP）的方法正是基于此提出的。

1 局部保持投影（LPP）

LPP基于一些性能目标寻找线性变换W，继而对高维数据进行降维：

已知存在l个训练样本X={xi}li=1∈Rm，将下列目标函数进行最小化处理，得到变换矩阵W：

其中S是权值矩阵，可采用k近邻来定义：

在式（3）中，ε>0，t>0，另外ε还是一个足够小的常量。

通过式（2）可对目标函数进行降维后，所得到的特征空间可以保持原始高维空间的局部结构。因此，我们运用式（4）对式（2）进行代数变换：

在式（4）中，X=[x1，x2，…，xl]，D是l×l对角阵，对角线元素Dii=Sij，L=D-S。

通过式（5）求解广义本征值问题，得到一个变换矩阵W，将W代入式（4）可得到一个最小值。

式（5）的d个最小的非零特征值所对应的特征向量构成投影矩阵W=[w1，w2，…，wd]。

在人脸识别领域，LPP算法常常会遇到小样本问题，常规的解决方法是先采用PCA降维，然后在PCA子空间应用算法，但存在上述缺陷，于是学者们提出了二维局部保持投影算法（2DLPP）。而2DLPP是一個非监督的学习方法，其只考虑了数据的距离关系，而忽视了合理处理不同类别样本间关系的问题。进而通过改进引入二维监督的局部保持投影算法（2DSLPP）。

2 二维判别监督的局部保持投影（2DDSLPP）

本节主要讨论的二维判别监督局部保持投影（2DDSLPP）不仅利用了样本的类别信息，而且要求降维后同类样本之间保持近邻关系，不同类的样本之间距离变远。仍然假设从原样本空间到特征空间的投影向量是列向量a，则原样本Xi的投影结果为Yi=aTXi。二维判别监督局部保持的目标函数为如下定义，即

min（6）

式中：S表示关于同类样本之间的关系矩阵；SD表示不同类样本之间的样本关系矩阵。S的定义如下：如果Xi，Xj来自同一类，则S=exp- Yi-Yj /t，否则，令其为零。SD的定义为：如果Xi，Xj来自不同类，则S=exp- Yi-Yj /t，否则，令S=0。式（8）可以变换为

min=min（7）

令c为常量，TX（L2In）XTa=c（c≠0）。用Lagrange条件极值求解方法，式（6）与如下Lagrange函数同时取得极值，即

对Lagrange函数L（a，λ），其极值在？鄣L（a，λ）/？鄣a=0的条件下获得。因此，极小值问题式（8）可转换为求解式（11）的最小特征值对应特征向量的问题，即

假设列向量a1，a2，…，ad是特征方程式（11）前d个最小特征值对应的特征向量，按照特征值有小到大排列：λ1<λ2<…<λd。令A=[a1，a2，…，ad]，则原样本Xi的投影结果为Yi=ATXi。

3 实验

对AR数据库中120人的3120幅人脸图像（每人26幅图像）进行了实验。每幅人脸图像首先被缩小为40*50大小。为了简单，本实验采用AR数据库中前40人的1040幅人脸图像（每人26幅图像）进行了实验。实验分为4种情况，4种情况下训练样本的个数分别为6、8、10、12，而测试样本的个数分别为20、18、16、14。对每种情况，分别进行10次实验；每次实验的训练样本与测试样本均随机选择。例如，在第一种情况下，10次实验中的每次都随机的选择6个训练样本与20个测试样本，然后运行各方法并计算出正确的识别率。由于每次实验中正确识别率均随变换轴的个数变化而变化，我们只记录下每次实验中的最大正确率。表1显示了每种情况的10次实验的最大正确识别率的均值。可以看到，2DSLPP和2DDSLPP的正确率均高于2DLPP，且2DDSLPP的正确识别率比2DDLPP、2DLDA的正确识别率都要高。图1给出的是，在训练样本和测试样本个数分别为10和16情况小的一次实验中，正确识别率随变换轴个数的变化。

4 结束语

本文提出了二维判别监督局部保持投影算法。将该算法应用在实际问题中，LPP方法对光照、姿态变化敏感的缺点就迎刃而解，并且能实现降维后同类样本之间保持近邻关系，不同类的样本之间距离变远。实验结果表明，LPP 方法对光照和姿态变化具有一定的鲁棒性，能够对人脸图像进行有效的降维处理，从而进一步提高人脸识别率。但是关于该方法的鲁棒性，在今后的应用中还有待进一步的研究和验证。

参考文献：

[1]Bo Li，Chun-Hou Zheng，De-Shuang Huang. Locally linear discriminant embedding： An efficient method for face recognition[J]. Pattern Recognition， 2008 （12）.

[2]Weiwei Yu， Xiaolong Teng，Chongqing Liu. Face recognition using discriminant locality preserving projections[J]. Image and Vision Computing， 2005 （3）.

[3]D. Cai，X. He，J. Han.SRDA：An efficient algorithm for large scale discriminant analysis. Computer Science Department UIUC UIUCD CS-R-2007-2857 Tech. Rep. 2007.

[4]赵芬庆.基于LPP的人脸图像分析[D].西安电子科技大学， 2013.

[5]Ye J P，Janardan R，Li Q.Two-dimensional linear discriminant analysis. Advances in Neural Information Processing Systems， 2004.

[6]Huang R，Liu Q，Lu H，et a1.Solving the small sample size problem of LDA. Proceedings of International Conference on Pattern Recognition， 2002.

[7]庞尔平.人脸识别中基于稀疏降维方法的研究[D].吉林大學，2013.

[8]华显明.结合2DPCA和有监督LPP人脸识别算法研究[D]. 重庆师范大学，2013.