喻 昕 许治健 陈昭蓉 徐辰华



拉格朗日神经网络解决带等式和不等式约束的非光滑非凸优化问题

喻 昕①许治健*①陈昭蓉①徐辰华②

①(广西大学计算机与电子信息学院 南宁 530004)②(广西大学电气工程学院 南宁 530004)

非凸非光滑优化问题涉及科学与工程应用的诸多领域，是目前国际上的研究热点。该文针对已有基于早期罚函数神经网络解决非光滑优化问题的不足，借鉴Lagrange乘子罚函数的思想提出一种有效解决带等式和不等式约束的非凸非光滑优化问题的递归神经网络模型。由于该网络模型的罚因子是变量，无需计算罚因子的初始值仍能保证神经网络收敛到优化问题的最优解，因此更加便于网络计算。此外，与传统Lagrange方法不同，该网络模型增加了一个等式约束惩罚项，可以提高网络的收敛能力。通过详细的分析证明了该网络模型的轨迹在有限时间内必进入可行域，且最终收敛于关键点集。最后通过数值实验验证了所提出理论的有效性。

拉格朗日神经网络；收敛；非凸非光滑优化

1 引言

作为解决优化问题的并行计算模型，递归神经网络在过去的几十年里受到了极大的关注，不少神经网络模型被提出。然而这些网络都是为解决光滑优化问题而设计的，它们却无法解决非光滑优化问题。为此，Forti等人[4]提出了通用非线性规划神经网络模型(G-NPC)，用于解决不等式限制的非光滑优化问题。G-NPC是利用Clark次梯度和惩罚项构造的微分包含梯度系统，其动态行为和最优化能力适用于解决凸的和非凸的问题。……