一种随机配置网络的模型与数据混合并行学习方法
2021-12-01李德鹏杨春雨马小平
自动化学报 2021年10期
关键词:模型
代 伟 李德鹏 杨春雨 马小平
信息技术的迅速发展使得生产制造行业进入大数据时代,这为数据建模提供了大量的数据样本,使得数据驱动建模在不同领域产生广阔的应用空间[1−3].然而,系统复杂度和数据规模的日益增大为数据建模算法带来新的挑战.模型精度取决于样本的质量与数量,但超过一定规模的样本数据,会显著增加网络参数训练与优化的成本,且难以有效学习,导致模型的整体性能下降[4].在采用传统神经网络算法进行大数据建模时,所得到的模型往往存在训练耗时、网络结构复杂等问题,难以满足实际应用的需求.因此,建立一种能够从大量数据中快速、高效学习的策略具有重要意义.
上世纪90 年代,文献[5]提出的随机向量函数链接网络,与文献[6]提出的另一种具有随机权值的单层前馈神经网络等被统称为随机权神经网络(Random weight neural networks,RWNNs)[7−8].其特征在于隐含层参数(输入权值和偏置)在给定的区间内随机产生,只需解析求解网络输出权值.因RWNNs 实现简单、建模速度快等优势受到了广泛的关注.文献[9]设计了一种二维RWNNs 分类器,用于人脸识别,其使用两组输入权值直接以特征矩阵作为输入而不用转换成向量形式,能够有效保留图像数据的空间信息,具有良好的分类性能.文献[10]将非参数的核密度估计方法与加权最小二乘估计引入到RWNNs 的学习算法,通过评估每个训练样本对于建模的贡献度来抑制噪声数据或离群点的负面影……
登录APP查看全文
