王宪保 陈诗文 姚明海



基于正则化的半监督等距映射数据降维方法

王宪保 陈诗文 姚明海*

(浙江工业大学信息工程学院 杭州 310023)

针对等距映射(ISOMAP)算法无监督，不能生成显式映射函数等局限性，该文提出一种正则化的半监督等距映射(Reg-SS-ISOMAP)算法。该算法首先利用训练样本的标签样本构建联通图(-CG)，得到近似样本间测地线距离，并作为矢量特征代替原始数据点；然后通过测地线距离计算核矩阵，用半监督正则化方法代替多维尺度分析(MDS)算法处理矢量特征；最后利用正则化回归模型构建目标函数，得到低维表示的显式映射。算法在多个数据集上进行了比较实验，结果表明，文中提出的算法降维效果稳定，识别率高，显示了算法的有效性。

数据降维；流形学习；半监督学习；正则化

1 前言

数据降维方法可以分为线性降维和非线性降维，线性降维主要有主成分分析(Principal Component Analysis, PCA)，线性判别分析(Linear Discriminant Analysis, LDA)，多维尺度分析(MultiDimensional Scaling, MDS)等。但在大多数的应用中，数据一般分布在非线性几何结构上。

非线性降维主要有等距映射(ISOmetric MAPping, ISOMAP)，局部线性嵌入(Local Linear Embeedding, LLE)[1]，拉普拉斯特征映射(Laplacian Eigenmap, LE)[2], 局部切空间排列(Local Tangent Space Alignment, LTSA)[3]等。非线性降维使得数据分布更加接近它们的空间流形[4]，但也存在局限性：(1)假定数据位于欧氏空间上，且样本较少时降维不明显；(2)直接得到数据集的低维结果，不能得出显示映射；(3)属于非监督式的，不能使用类别标签信息。

半监督学习从大量未标签样本和少量标签样本中进行学习，利用数据集的几何结构来指导分类，是近年来的一个研究方向。……