基于自组合核的增量分类方法
2016-08-15吴振宇
冯 林, 张 晶, 吴振宇
(1. 大连理工大学电子信息与电气工程学部计算机科学与技术学院, 辽宁 大连 116024;2. 大连理工大学创新创业学院, 辽宁 大连 116024)
基于自组合核的增量分类方法
冯林1,2, 张晶1,2, 吴振宇2
(1. 大连理工大学电子信息与电气工程学部计算机科学与技术学院, 辽宁 大连 116024;2. 大连理工大学创新创业学院, 辽宁 大连 116024)
在线极端学习机(online sequential extreme learning machine,OSELM)模型在解决动态数据实时分类问题时,无需批量计算,仅保留前一时刻训练模型,根据当前时刻样本调整原有模型即可。然而,该增量方法在离线训练阶段随机指定隐层神经元使模型鲁棒性差,且求解过程难以拓展于核方法,降低了分类效果。针对上述问题,提出一种基于自组合核的在线极端学习机(self-compounding kernel online sequential extreme learning machine,SCK-OSELM)模型。首先,提出一种新的自组合核(self-compounding kernel,SCK)方法,构建样本不同核空间的非线性特征组合,该方法可被应用于其他监督核方法中。其次,以稀疏贝叶斯为理论基础将训练数据的先验分布作为模型权值引入,并利用超参调整权值后验分布,从而达到对当前时间点参数稀疏的目的。最后,将稀疏得到的参数并入下一时刻运算。对动态数据的实时分类实验表明,该方法是一种有效的增量学习算法。相比于OSELM,该方法在解决动态数据实时分类问题时获得更稳定、准确的分类效果。
动态数据; 在线极端学习机; 自组合核; 稀疏贝叶斯
0 引 言
在互联网时代,各个领域每一时刻均产生大量数据,如网络流量数据、金融交易数据、医学诊断数据、移动终端数据等。……
