APP下载

综合优化神经网络算法*

2012-08-20王立威刘琼荪

网络安全与数据管理 2012年5期
关键词:优化

王立威,刘琼荪

(重庆大学 数学与统计学院,重庆 401331)

BP神经网络是目前研究最为成熟、应用最为广泛的人工神经网络模型。然而,在实际应用中,如何设计网络结构、如何选取网络参数、如何提高网络收敛速度是急需解决的问题。事实上,人工神经网络模型是从输入到输出之间一个非线性映射的逼近。根据kolmogorov定理,含有一个隐层的3层BP神经网络在隐节点数足够多的情况下能以任意精度逼近有界区域上的任意连续函数[1]。由于网络参数随机性的影响,隐层神经元数的选择,至今还没有一个明确的方法。大量的实验表明,如果隐层神经元的数目偏少,网络的学习能力和处理信息的能力较差,学习误差下降缓慢,甚至出现达不到目标精度的现象;若隐层神经元数目过多,一些隐层神经元输出存在着线性相关性,就造成网络结构庞大、网络泛化能力低等问题。因此,不能完全按照kolmogorov公式或者经验公式确定隐含层神经元数目。而对于具有一定规模的、较为复杂的问题,由于其规模的不同和对求解速度的要求,更需要寻找合适的神经网络算法以确定最优隐神经元数目以保持能兼顾网络最快学习速度和良好信息处理能力的最优或较优状态。本文将多项式函数作为神经元的激活函数,结合矩阵伪逆的思想并利用区间折半搜寻的方法自动优化隐层神经元数等综合优化神经网络算法。

1 相关数学知识

1.1 魏尔斯特拉斯定理[2]

设 f(x)是[a,b]上的连续函数,则对任意给定的 ε>0,总存在多项式 P(x),使得:

登录APP查看全文

猜你喜欢

优化
超限高层建筑结构设计与优化思考
PEMFC流道的多目标优化
民用建筑防烟排烟设计优化探讨
关于优化消防安全告知承诺的一些思考
一道优化题的几何解法
由“形”启“数”优化运算——以2021年解析几何高考题为例
围绕“地、业、人”优化产业扶贫
事业单位中固定资产会计处理的优化
4K HDR性能大幅度优化 JVC DLA-X8 18 BC
几种常见的负载均衡算法的优化