完备的双子空间边界近邻鉴别分析
2014-08-03林玉娥李敬兆梁兴柱林玉荣
林玉娥,李敬兆,梁兴柱,林玉荣
(1.安徽理工大学计算机科学与工程学院,安徽 淮南 232001;2.哈尔滨工业大学航天学院,黑龙江 哈尔滨 150001)
1 引言
近年来,基于局部近邻思想的特征提取方法受到了学者们的关注,如局部保持投影 LPP(Locality Preserving Projections)[1]、有监督的局部保持投影LSBS(Local Structure Based Supervised)[2]、正交的保局鉴别分析OLPP(Orthogonal Locality Preserving Projections)[3]以及边界Fisher鉴别分析MFA(Marginal Fisher Analysis)[4,5]算法等,这些算法都是基于局部近邻思想提出的。其中的MFA是一种有效的特征提取算法,与其他局部近邻算法的区别是该算法综合了保局投影方法[1]和线性鉴别分析方法[6]的优点。其思想是通过构造类内图S来描述类内数据的紧致性,构造类间图B来描述类间数据的可分性,以二者的比值构造目标函数,实验表明了该算法有效性。但是,该算法也有不足之处,对此文献[7,8]指出边界Fisher鉴别分析的目标函数没有充分考虑异类样本近邻关系的缺点,因此分别提出了相应的改进算法;文献[9]则针对MFA所求的鉴别向量之间的关系进行了研究,给出了正交MFA和无相关MFA来进一步提高MFA算法的识别性能。
但是,上述改进算法和原MFA算法一样,在应用于人脸识别等模式识别问题时,均受到小样本问题的制约,即目标函数中存在矩阵奇异的问题。对于该问题目前多采用差分的目标函数来避免矩阵的求逆[10~12],这种策略虽然能够解决小样本问题,但基于差形式的目标函数的识别效果没有商形式的理想[13]。
因此,本文针对上述问题进行了研究,以MFA为理论基础,提出了一种适用于人脸识别等高维小样本问题的方法,即完备的双子空间边界近邻鉴别分析DSMNDA(Dual Subspace Marginal Neighborhood Discriminant Analysis)。……
