基于矩阵型惯性投影神经网络的非负矩阵分解算法
2023-02-13李小玲夏又生
福州大学学报(自然科学版) 2023年1期
关键词:优化
李小玲,夏又生
(福州大学数学与统计学院,福建福州 350108)
0 引言
非负矩阵分解(nonnegative matrix factorization,NMF)是一种有效的特征学习技术,旨在将一个高维的非负矩阵分解为两个低秩非负矩阵的乘积,可以有效地进行数据降维,并得到基于部分的表示.
Paatero等[1]最先引入正矩阵分解这一思想. 在NMF的求解算法,乘法更新算法[2]易于实现,但无法保证收敛到驻点[3]. 为了解决上述缺陷,Berry等[4]提出了交替非负最小二乘法(ALS). 而后,Lin[5]提出了投影梯度法,大大提高了交替非负最小二乘法的收敛速度. 基于NMF的基本模型,众多改进的 NMF 算法[6-8]也相继被提出,其中Li 等[6]提出局部NMF用于人脸检测,Hoyer[7]将稀疏编码的思想融入到NMF中,Cai等[8]提出的图正则化非负矩阵分解(graph regularized NMF,GNMF)可以将数据的内在结构嵌入低维表示.
作为一种并行优化方法,神经动力学优化方法在处理优化问题中展现出优越的搜索能力. Li等[9]解决了一类矩阵不等式约束矩阵的最小二乘问题形式; Huang等[10]提出了求解矩阵值优化问题的连续时间和离散时间两种矩阵型投影神经网络; Ye等[11]提出了一种求解盒约束条件下矩阵变量非线性优化问题的矩阵型神经动力学方法. 在Dai等[12]的向量模型的基础上,本研究提出一个基于连续时间矩阵型惯性投影神经网络的NMF算法,并将其运用到人脸识别. 理论分析说明基于矩阵型神经网络的交替迭代算法能够收敛到矩阵非负分解优化问题的偏最优解. 比较4种基于常见的非负矩阵分解算法,计算结果验证了所提出……
登录APP查看全文