刘艳芳 李文斌 高 阳

1(计算机软件新技术国家重点实验室(南京大学) 南京 210023) 2(龙岩学院数学与信息工程学院 福建龙岩 364012)

在线学习[1-3]作为一种增量式的机器学习技术，能够对模型进行实时增量更新，学习过程中随时都可以使用当前学到的模型对未知样本进行预测，一旦对样本处理完毕，不需要对其进行存储和再访问.在线学习非常适用于处理大规模流数据，不仅可以处理流数据带来的样本无限量和实时分析的挑战，还不依赖于样本独立同分布的假设[4-5].正因为如此，此研究领域得到快速发展，涌现出丰富的算法.

在线梯度下降(online gradient descent, OGD)[6]是最简单也是最流行的一阶在线学习方法，在学习的每一轮总是沿着瞬时损失函数的负梯度方向修正模型，然后再将修正后的模型投影到可行域内.被动-主动算法(passive-aggressive learning, PA)[7]采用了OGD中根据瞬时损失函数的负梯度方向更新模型，同时，在学习过程中考虑了预测的置信水平，即样本到当前决策边界的间距，更新模型时每个样本上的学习步长与该样本被分类的置信水平相关.作为PA的一种拓展算法，置信度加权学习(confidence-weighted, CW)[8-9]是一个二阶在线学习方法，不仅使用了瞬时损失函数的函数值和次梯度信息，还使用了瞬时损失函数的二阶导数信息，即Hessian矩阵信息.自适应权重正则化方法(adaptive regularization of weights, AROW)[10]将CW算法中的约束放松，转换为正则化项加到KL散度函数中，从而算法在每次学习中只需求解一个无约束的优化问题，从而提高了对噪声的……