主成分提取信息准则的加权规则
2022-01-13杜柏阳孔祥玉罗家宇
杜柏阳 孔祥玉 罗家宇
在信息处理领域,主成分分析(Principal component analysis,PCA)又称为KL 变换(Karhunen-Loéve transform),广泛应用于信号压缩[1]、模式识别[2]、图像处理[3]、噪声估计[4]、神经网络建模[5]等问题.通常,主成分(Principal component,PC)可以通过求解自相关矩阵的特征分解求得,具体是指自相关矩阵中前个最大特征值对应的特征向量.由这些特征向量张成的特征子空间被称为主子空间(Principal subspace,PS).
当前,在大量跟踪输入信号主成分主子空间的算法中,神经网络算法因为计算复杂度低等多种优良的性能而引起许多学者的兴趣[6].学者们提出大量的神经网络学习算法,用于提取主成分或者跟踪主子空间.例如,建立在启发推理机制上的Oja 主子空间跟踪算法[7]、对称误差校正算法[8],以及建立在信息准则基础上的最小均方误差重构(Least mean square error reconstruction,LMSER) 算法[9]、投影近似子空间跟踪(Projection approximation subspace tracking,PAST)算法[10].
早期的算法结构简单,但是在自稳定性、平滑性以及鲁棒性等方面还有待于优化.针对这些问题,Kong 等[11]提出了双目的的自稳定主成分提取神经网络算法,Kakimoto 等[12]提出了基于最小噪声准则的平滑自适应特征提取方法,Ouyang 等[13]提出了递归的鲁棒主成分分析算法.不仅如此,算法提取的对象还扩展到信号次成分[14]和广义特征成分[15].通过研究这些算法,可以知道提取信号多个成分和跟踪信号子空间的算法虽然实现提取的对象不同,但是在算法的原理上存在一定程度的关联.以主成分提取算法为例分析,多个主成分提取算法和主子空间跟踪算法都能够退化为单一主成分的提取算法,这反映出两个类型的算法具有某种相同的基本特性.反过来,如果存在一个能够提取单个主成分的提取算法,是否能遵循一定的原理或者规律,使得该算法能够转化为提取多个主成分或者跟踪主子空间的算法?……
