基于特征结构不变性思想的自适应在线神经网络算法
2022-04-21姜海富于化龙
江苏科技大学学报(自然科学版) 2022年1期
韦 磊, 姜海富, 于化龙,2*
(1.江苏科技大学 计算机学院, 镇江 212100)(2.四川轻化工大学 人工智能四川省重点实验室, 宜宾 643000)
在线学习(online learning),又称数据流学习(learning from data stream),是机器学习领域的重要研究分支之一[1].所谓在线学习,是指数据的获取不是一次性的,而是随着时间不断动态累加的.当前,随着移动互联网与物联网等技术的高速发展,在线学习在智能交通[2]、市场分析[3]、网络安全[4],乃至更多的应用领域都存在着广泛的应用价值.
相比于传统的依赖于静态数据的机器学习,在线学习通常要面临更多的挑战,主要包括:① 考虑到数据流高频、量大的特点,以及存储的限制,通常数据都是在使用后即被抛弃的,因此要求模型只能访问数据一次(one pass);② 数据的分布可能会随着时间的延展而发生各种动态改变,即概念漂移(concept drift)问题[5],因此要求模型要能实时跟踪分布的变化而不断实现自我进化.
对于one pass 问题,现有的解决策略大体可以分为两类:一是对传统的单一静态学习模型进行改进,令其可适应在线学习环境,当接收到新数据时,通过自动修正模型参数使其同时适应新旧两类数据[6-7];二是将传统的单一静态学习模型与集成学习框架相结合,不同的个体学习器建立于不同的数据块之上,通过投票规则相关联,同时兼顾新旧经验[8-10].对于概念漂移问题,通常采用一个独立的分布漂移检测模块来对漂移的发生进行监测,进而将监测的结果反馈给单一学习模型以调控其对旧经验……
登录APP查看全文
