基于核学习的运动目标跟踪算法综述
2021-11-12娄佳欣李元凯王媛徐琰珂
娄佳欣 李元凯 王媛 徐琰珂
摘 要：核方法通过将原始空间数据映射到高维希尔伯特空间， 将非线性映射隐含在线性学习器中， 使用核函数代替高维空间中复杂的内积运算， 能够有效避免高维空间计算带来的“维数灾难”。 核方法具备可学习性、 高效计算、 可线性化、 泛化性能好等优势， 为解决非线性目标跟踪问题提供了一种新的有效途径。 传统的目标跟踪方法往往利用跟踪模型预测目标当前运动状态， 并确保跟踪的准确性与实时性， 核方法则提供了线性化处理的一般途径， 且可以不依赖具体模型， 具备高效计算能力， 将核学习方法引入目标跟踪领域有望提升目标跟踪的环境适应性。 本文基于核方法基本思想， 着重梳理了核学习目标跟踪当前的研究进展， 包括基于核学习的目标检测算法、 生成式和判别式目标跟踪算法， 以及构造不同核函数的多核学习方法， 并对核学习目标跟踪在核函数优化、 长时间跟踪、 特征提取、 目标遮挡等方面的进一步研究与探索进行展望。
关键词： 核学习方法; 非线性映射; 目标检测; 目标跟踪; 多核学习; 模式识别
中图分类号： TJ760; TP18 文献标识码： A 文章编号： 1673-5048（2021）05-0064-12
0 引 言
核方法即基于核的学习（Kernel-Based Learning）， 是在统计理论基础上发展起来的一种新的学习方法， 是模式识别领域的一个新兴分支， 最初应用于支持向量机。 核方法通过非线性映射将原始空间数据映射到高维特征空间， 可以在样本空间内进行线性分析， 是处理非线性模式识别问题的有效方法。 同时， 核方法还可以提供高效计算的途径， 利用核函数将非线性映射隐含在线性学习器中进行同步计算， 使用核函数代替高维空间中复杂的内积运算， 为解决高维空间计算复杂度及“维数灾难”问题提供了一种新思路。 核方法结构简单， 泛化性能好， 不存在过学习问题， 算法理论上得到的是全局最优点， 可避免局部极值问题。 核方法还可以将经典的线性算法， 如卡尔曼滤波、 主成分分析等， 无损推广为非线性形式， 应用于运动目标跟踪、 图像识别等非线性问题， 为非线性问题的线性处理提供一种理想手段。 目前， 核方法已经在支持向量机、 核主成分分析、 时间序列预测、 Fisher鉴别分析等方面有应用先例。
在新兴技术驱动下， 目标跟踪技术加速发展， 涉及模式识别、 动态系统、 人工智能等众多学科， 在智能决策[1]、 无人驾驶[2-4]、 生物医学[5]、 人机交互、 军事侦察等领域， 已经取得重要应用并有巨大的发展前景。 运动目标跟踪问题， 本质上是一类典型的非线性模式识别问题， 通过运动目标的先验知识建立跟踪模型， 预测目标当前时刻或当前帧的运动状态和运动规律。 然而， 跟踪模型的质量直接影响跟踪效果， 跟踪模型较差， 如目标运动状态不匹配或搜索区域设置不合理， 将会导致明显的跟踪误差甚至目标丢失。 基于核方法的运动目标跟踪算法利用非线性映射关系的构建和学习， 可以不依赖于具体模型， 在目标运动状态非线性变化情況下依然能够保证跟踪质量， 让目标跟踪具有更好的环境适应能力。
由于核方法具备高效计算、 泛化性能好、 数据驱动等优点， 学者们尝试将核方法进一步引入目标跟踪领域， 以建立非线性、 高精度、 强鲁棒的适应性目标跟踪模型。 目前， 基于核方法的目标跟踪算法也不断涌现， 跟踪模型更精准、 数据驱动更合理、 运算速度更快捷， 目标跟踪能力得到有效提升。
本文梳理了基于核方法的运动目标跟踪算法的研究现状， 论述了基于核方法的目标检测算法以及生成式和判别式目标跟踪算法的研究进展， 并针对核函数的设计与研究， 讨论了具有多核函数的典型多核学习方法以及构造方法与应用范围， 最后探讨了核学习目标跟踪的研究与应用前景， 展望了其在长时间跟踪、 目标尺度变化、 核函数优化、 特征提取准确性等方面的发展趋势。
1 核映射思想
核方法是通过固定非线性映射算子将原始空间数据映射到再生希尔伯特空间（Reproducing Kernel Hilbert Space， RKHS）， 在高维特征空间进行数据分析和处理的方法。 再生希尔伯特空间是一种由核函数构成的带有内积的完备向量空间， 由于映射过程难以显性表达， 在该空间中， 往往采取计算核函数代替映射内积的方式进行算法推导， 以避免对特征映射的直接求解。
航空兵器 2021年第28卷第5期
娄佳欣， 等： 基于核学习的运动目标跟踪算法综述
定义非线性映射算子为核函数 κ ， 对所有的 x ， x′ ， 核函数满足
κ（x， x′）=〈φ（x）， φ（x′）〉 （1）
式中： φ（·） 是由原始空间变换到特征空间的特征向量。
当核函数满足连续、 正定、 对称时， 称为Mercer核[6]。 如果核函数满足以下两个条件：
（1） 对任意的 x∈X， κ（x， z） 中向量的函数归属于向量空间F;
（2） κ（x， z） 满足可再生性，
则为可再生核函数， 而一个确定的可再生核函数即定义了一个可再生希尔伯特空间。 其中， 核函数满足的可再生性是指核 κ（x， ·） 组成的函数：
g（·）=∑li=1aiκ（ci， ·） （2）
对于所有的 i ， ci∈X， 满足
〈g， κ（x， ·）〉=∑liaiκ（ci， x）=h（x） （3）
通过Mercer核定义， 得到再生核的表示形式为
κ（x， x′）=∑∞i=1ζiφi（x）φi（x′） （4）
式中： ζi 和φi分别为非负的特征值和特征向量， 映射φ可表示为
φ： X→F
φ（x）=[ζ1φ（x1）， ζ2φ（x2）， …] （5）
对于原始输入空间的数据 u ， 通过φ（·）映射到特征空间中， 得到φ（u） ， 如图1所示， 图中给出了数据从原始空间到希尔伯特空间的映射关系。
在希尔伯特空间中， φ（·）为由原始空间到特征空间的映射， φ（x） 为映射后的特征向量， 对所有的 x， x′∈X， 核函数都满足
φ（x） T φ（x′）=κ（x， x′） （6）
即在映射函数φ（·）难以显性表达的情况下， 通过计算核函数代替再生希尔伯特空间中复杂的映射内积计算， 从而简化计算过程， 提供高效计算能力。
2 核学习运动目标跟踪
目标跟踪技术是智能系统领域的一个富有挑战性的分支， 旨在实现对目标运动模态的识别和决策， 具有广阔的应用前景和重要的研究价值， 已经应用在智能监控、 无人驾驶、 生物医学、 人机交互、 军事瞄准等领域。 核方法由于其可线性化、 数据驱动等优点， 被广泛应用在目标跟踪算法中， 并取得了丰硕的成果。
目标跟踪主要包括外观模型、 运动模型、 搜索策略三部分， 涉及图像处理、 数据处理、 机器学习等方面。 考虑到目标检测是目标跟踪的前提， 基于核方法的运动目标跟踪流程可描述为： 基于目标状态信息检测， 根据目标跟踪模型预测目标运动趋势， 进行更高层次的目标行为分析和决策。 根据建立的目标外观模型的不同， 可以将目标跟踪分为生成式跟踪方法和判别式跟踪方法。
2.1 目标检测
目标检测是目标跟踪的前提， 直接影响跟踪效能。 基于核方法的目标检测算法主要有核主成分分析（Kernel Principal Component Analysis， KPCA）、 核Fisher判別分析（Kernel Fisher Linear Discriminant， KFLD）、 核独立成分分析（Kernel Independent Component Analysis， KICA）算法。
2.1.1 KPCA算法
核方法使用核函数代替高维空间的内积运算以解决高维计算复杂问题， 在支持向量机上得到了成功应用。 受到核方法的启发， 早在1998年， Scholkopf等[7]将核方法与主成分分析结合起来， 提出了核主成分分析（KPCA）， 该算法使得核方法脱离支持向量机与其他算法结合起来， 并有效用于形态特征提取与目标检测领域， 对于核技巧的广泛应用具有重要意义。
主成分分析法（PCA）是最小均方意义上的最优变换， 需求取样本协方差的特征值和特征向量， 通过特征值和特征向量的提取突出原始数据的隐含信息， 以去除随机向量之间的相关性， 从而得到数据的主要成分。
KPCA算法则首先对目标训练图像集进行训练， 计算各样本的KPCA特征， 然后截取待检测图像中的子图像， 计算子图像的KPCA特征， 再通过计算检测函数来检测目标是否存在。 KPCA算法是PCA的非线性推广， 通过核函数将原始空间数据映射到希尔伯特空间， 在希尔伯特空间中利用重构误差最小准则， 使用PCA算法重构原图像。 与PCA算法相比， KPCA提取了目标高阶统计特征， 可以让目标描述更加充分完整。
2.1.2 KFLD算法
Fisher线性判别（Fisher Linear Discrimination， FLD）或线性判别式分析（Linear Discriminant Analysis， LDA）由Mika在1999年提出。 FLD是基于样本类别进行整体特征提取的有效方法， 其在PCA算法降维的基础上考虑到训练样本的类间信息， 基本原理是找到一个最合适的投影轴， 使各类样本在该轴上投影之间的距离尽可能远， 而每一类内的样本投影尽可能紧凑， 使分类效果达到最佳， 即在最大化类间距离的同时最小化类内距离。 FLD算法在进行图像整体特征提取方面有着广泛的应用。
Mika等[8]随后将FLD算法扩展到非线性领域， 提出了KFLD算法， KFLD检测算法继承了KPCA算法的思想， 也可以提取目标的高阶统计特征， 不同的是， KFLD是在特征空间执行Fisher线性判别， 得到特征空间中基于描述的最优分类， 从而得到更精准的目标特征提取。
2.1.3 KICA算法
KPCA和KFLD目标检测算法为核方法的发展奠定了基础， 2002年， Bach等[9]提出了核独立成分分析（KICA）， 进一步丰富了核检测算法。
独立成分分析（ICA）是从多元/多维统计数据中寻找潜在因子或成分的一种算法。 该算法基于对比函数定义， 可寻找满足统计独立和非高斯的成分， 其中的对比函数是根据对单个固定非线性函数的期望， 以一种特殊的方式选择一个固定的非线性函数， 使函数期望对互信息产生一个稳健的逼近。
KICA则提供了一种新的路径来解决独立分量分析问题， 基于非线性的整个函数空间处理核希尔伯特空间中的函数， 并利用核技巧在空间上高效搜索。 函数空间的使用使其能够适应各类数据样本， 从而使算法对变化的样本分布更具鲁棒性。
2.2 生成式跟踪
生成式跟踪方法是指在线学习建立跟踪目标的特征模型， 以此目标特征模型为模板， 通过特征模型对图像进行搜索和匹配， 找到与原始图像重建误差最小的区域， 并以此区域作为跟踪目标的定位， 同时， 利用统计分布模型判断后续图像中是否有相应的特征描述模型和目标概率模型， 最终实现对目标实时有效的跟踪。
生成式模型跟踪方法的主要代表之一是均值漂移跟踪算法（Mean Shift， MS）。 均值漂移是一个在迭代中寻找最优解的过程， 以任意样本为中心划定区域， 在该区域内寻找概率密度最大的点， 然后以该点为中心重复上述过程， 直到符合收敛条件。
2.2.1 均值漂移算法原理
MS算法在跟踪初始时刻需要自主确定搜索窗口来选择目标， 是一种半自动跟踪算法。 该算法计算初始帧搜索窗口的直方图分布， 并以同样的方法计算第 N 帧窗口的直方图分布， 让搜索窗口沿直方图密度增加最大的方向移动， 最终得到目标的位置。 流程如下：
（1） 初始帧的目标模型
将特征空间按像素颜色值分为多个特征值， 初始帧的搜索窗口中第 u 个特征值的概率为
q～u=C∑ni=1κx0-xih2δ[b（xi）-u] （7）
式中： x0 ， xi 分别为第 n 帧搜索窗口的中心像素坐标和第 i 个像素的坐标; h 为核函数的带宽; κ（·） 为核函数。
（2） 第 N 帧模型
计算第 N 帧搜索窗口中第 u 个特征值的概率为
p～u（y）=Ch∑nki=1κy0-xih2δ[b（xi）-u] （8）
式中： y0 为搜索窗口中心像素的坐标。
（3） 相似性函数
相似性函數是表征初始帧与第 N 帧目标模型的相似程度， 相似性函数定义为
ρ～（y）≡ρ（ρ～（y）， q～）=∑mu=1ρ～u（y）q～u （9）
（4） MS向量
对相似性函数求最大值， 可以得到MS向量：
mh， G（y）=y1-y0=∑nki=1xiwigy～0-xih2∑nki=1wigy～0-xih2-y0 （10）
式中： y0 和 y1 分别为搜索窗口和新窗口的中心坐标。
2.2.2 研究进展
MS算法最早在1975年由Fukunaga等[10]提出， 起初并没有受到人们的广泛关注， 直到1995年， Cheng[11]在原MS的基础上加入核函数和权值系数， 极大地扩展了MS理论。 随后Comaniciu等[12-15]首先将MS算法引入视频图像处理中， 实现了MS算法的图像平滑、 分割、 跟踪。 文献[16]证明， 对于既定核函数， MS算法可以收敛到数据中心， 为MS算法在目标跟踪领域应用打下基础。 文献[17]中提出了MS目标跟踪算法， 引入核函数的MS算法跟踪速度快、 鲁棒性强， 使得MS算法成为目标跟踪领域的主流算法之一， 得到学者广泛的关注和大量的研究改进。
MS跟踪算法中核函数带宽固定， 导致目标尺寸发生变化时跟踪误差较大。 为此， 在尺度空间理论[18]的基础上， Collins提出了一种可变尺度的MS跟踪算法[19]。 文献[20-21]提出了参数的自适应选择方案， 在目标尺度变化时依然可以取得较好的跟踪精度， 从而对MS跟踪算法作了进一步扩展。
MS算法中的颜色特征图无法准确描述目标颜色在图像中的分布， 容易导致特征空间空缺。 针对此类问题， 文献[22]在目标跟踪模型中引入空间颜色直方图， 将目标颜色与当前帧中的图像颜色结合在一起， 提高了目标的识别精度。 文献[23]提出了基于聚类颜色模板的MS算法， 文献[24]则在跟踪中加入目标的外接矩阵尺寸， 对当前帧进行分块处理， 提出了基于自适应分块颜色直方图的MS目标跟踪算法。 文献[25]在颜色特征直方图中融入空间信息， 在 X ， Y 方向上分解目标， 得到6个颜色的特征直方图。 文献[26]多角度全方位提取目标特征得到目标颜色直方图， 提高了目标识别精度。 为了提高目标跟踪的鲁棒性， 文献[27]在描述目标特征时采用cross-bin颜色直方图， 提高了MS算法的鲁棒稳定性。
为了减少背景对目标跟踪的影响， 文献[28-31]基于背景加权直方图的MS算法提出核修正方案， 可以有效抑制和分离背景， 改善跟踪效果， 实现复杂背景下精度更高的目标跟踪。
为了提高MS算法的抗遮挡能力， 学者们还尝试将多种滤波算法融入MS算法中[32]， 并取得了较好的跟踪效果。 文献[33-38]提出在MS算法中使用卡尔曼滤波（Kalman Filter， KF）算法预测目标位置， 在目标被短暂遮挡时提高跟踪精度。 文献[39-40]则使用KF对核函数直方图进行滤波， 及时更新目标跟踪模板， 提高了目标的抗遮挡能力和跟踪精度。 文献[41-43]在均值漂移迭代的过程中， 利用粒子滤波框架重新分配随机粒子， 更新样本均值， 弥补了目标特征描述不足的缺陷， 然而对于小目标与背景边缘处的区分能力仍有欠缺。
为了改善目标跟踪过程中由于旋转、 尺度变化导致跟踪精度下降的情况， 文献[44]有效解决目标发生旋转时的跟踪不稳定问题， 之后文献[45]又提出了基于核函数的仿射目标跟踪算法， 但是两种算法的跟踪速度较慢， 无法满足实时跟踪的要求。 文献[46]改进了对称核函数， 在MS目标跟踪算法中引入非对称核函数， 对于复杂形状的目标区域取得了较好的跟踪效果， 但是对于有较大弹性的非刚体目标， 目标跟踪效果不理想。 文献[47]提出了一种新的相似度函数， 利用特征空间模型[48-49]可以跟踪一般几何变化的目标。 文献[50]在MS算法中引入变换核函数， 并且融入了目标边缘信息， 可以实时调整目标模型跟踪仿射变化的运动目标。
为了对多目标物体和人体关节进行跟踪， 文献[51]在MS算法中引入置信融合传播算法， 可以实现对单目标、 多目标、 人体关节的跟踪。 文獻[52]使用多个跟踪器互相协作， 通过子空间约束这些跟踪器， 从而能够跟踪非刚体目标和人体的各个关节。
为了提高目标跟踪的准确性和鲁棒性， Topkaya等[53]在似然映射融合框架内， 结合独立分类器的输出进行MS跟踪， 并引入了一种新的似然融合算法， 把不同二值分类器得到的似然映射作为跟踪置信值。 Wang等[54]提出了一种改进的基于目标位置预测的MS跟踪算法， 该算法利用帧间的聚类运动估计和尺度估计来预测MS算法在每次迭代中的初始搜索位置。 Yu等[55]提出了一种基于优化目标外观模型和在线更新策略的强鲁棒性MS算法。 Zeng等[56]提出了一种新的局部特征描述模式， 称为四叉二值模式（QBP）， 与局部二值模式（LBP）相比， QBP对复杂场景下的特征提取具有更强的鲁棒性， 计算复杂度更低。 Phadke等[57]通过加入对变化不敏感的特征来增强鲁棒性， 提出平均局部二值模式（Mean Local Binary Pattern， MLBP）、 光照不变特征、 改进的模糊C均值（Modified Fuzzy C Means， MFCM）、 加权颜色直方图等来处理光照和尺度变化， 以进一步提高目标跟踪的准确性。 Liu等[58]提出了两个重要的机制来进一步提高跟踪器的鲁棒性， 一是使跟踪器能够意识到潜在的干扰， 并对外观模型做出相应的调整; 二是使跟踪器能够检测并从完全遮挡引起的跟踪失败中恢复。
经过20多年的发展， MS算法在目标跟踪领域取得了丰硕的成果， 在实时性和鲁棒性等方面也有较好的表现。 MS算法具有计算量小、 易于实现、 调节参数少、 实时性高等特点， 在聚类、 图像平滑、 图像分割、 视频监控等领域都有成功的应用。 近年来， 关于MS算法的研究已经相对成熟， 但是MS算法也存在很多待解决的问题， 如只适用于短时间的目标跟踪， 在长时间目标跟踪的情况下， 鲁棒性和跟踪精度逐渐降低; 目标模型只采用了颜色特征描述， 容易受背景的干扰; 目标尺度发生较大变化或被遮挡时， 跟踪精度下降。
MS算法作为核密度估计算法的典型代表， 是生成式跟踪的主要算法。 生成式跟踪算法固然可以取得较好的跟踪效果， 但是忽略了背景及周围环境的信息， 跟踪过程很容易受到背景干扰。 因此， 如何将目标与背景有效分离显得尤为重要。
判别式跟踪算法充分利用背景和环境信息分别对目标特征和背景特征建模， 可以有效将目标与背景分开处理， 于是判别式跟踪算法的研究在目标跟踪领域逐渐得到重视和应用。
2.3 判别式跟踪
判别式跟踪方法引入机器学习的相关理论， 对目标特征和背景特征分别建模， 以置信图中的峰值作为目标位置， 通过训练相应的滤波器将目标和背景区分开。 相比于生成式跟踪算法， 判别式跟踪可以更好地得到目标在当前图像中的具体位置， 且识别精度高、 跟踪速率快， 因此被广泛研究。 基于核方法的判别式目标跟踪可分为核函数循环检测跟踪算法和核相关算法两部分， 其中， 核相关算法跟踪速度快、 精准度较高， 得到更多重视。
2.3.1 核函数循环检测跟踪算法
相关滤波在频域有较快的运算速率， 对目标的跟踪速度可以达到每秒数百帧， 是实现目标实时跟踪的有效途径。 2010年， Bolme等[59]将相关滤波引入到MOSSE （Minimum Output Sum of Square Error） 算法中， 开创了目标跟踪从时域扩展到频域的先河。 MOSSE算法利用了相关滤波在频域计算速度快的特点， 跟踪速度可以达到669帧/秒， 同时还具备优良的目标定位性能， 后续许多研究均是以此为基础展开的。
2012年， 在MOSSE算法的基础上， Henriques等[60]提出了基于核函数循环检测跟踪（Circulant Structure of tracking-by-detection with Kernels， CSK）算法。 CSK算法的特点是利用循环矩阵的相关理论， 对训练样本和候选样本进行循环移位， 以增加两个样本的数量， 同时使用训练样本训练分类器， 利用训练好的分类器在候选样本构造的候选区域内进行检测， 相关计算中响应的最大值则为目标的位置。 为进一步提高计算速度， CSK算法中引入了核函数， 将数据从原始空间中引入高维希尔伯特空间， 算法使用快速傅里叶变换， 使得整个运算过程在傅里叶域内进行。
为了找到响应位置， CSK算法须从频域变换到时域， 这会导致边际效应， 类似于非周期信号在系统中的泄露现象。 同时， CSK算法应用范围较窄， 只适用于灰度特征空间， 对目标外观模型的建立有所欠缺， 容易受复杂任务背景和环境噪声干扰。 为了更精确地建立目标外观模型， Danelljan等[61]在CSK算法的基础上使用颜色空间（Color Name， CN）以加强对表观模型的描述， 将三维颜色空间映射入高维CN空间中， 算法可以更加有效地建立目标外观模型， 对目标部分遮挡、 光线变化、 复杂背景等情况也有较好的跟踪效果。 但由于高维空间计算的复杂性， 引入三维颜色空间后， CSK算法的计算速率降低。
核函数循环检测跟踪算法在目标尺度发生变化或被遮挡时， 跟踪精度明显下降， 为此， 后续又提出了其他基于相关滤波的目标跟踪算法， 取得了比CSK算法更好的跟踪效果和跟踪鲁棒性。
2.3.2 核相关算法
为进一步提高跟踪精度和跟踪效果， Henriques等[62]提出核相关滤波跟踪算法（Kernelized Correlation Filters， KCF）。 该算法加入窗函数， 保证图像的周期性， 减弱了边际效应; 同时引入核技巧， 将原始样本空间映射到高维空间中， 利用离散傅里叶变换对角化的性质减少存储和计算量， 提高了模型计算效率; 此外， 引入方向梯度直方图特征取代CSK中的灰度特征， 提取目标纹理和方向特征， 可以实现对目标快速有效的跟踪。
KCF算法构建了一整套核化滤波理论体系， 先通过循环移位构造大量的训练样本， 再利用核技巧、 傅里叶变换等操作避免矩阵逆运算， 极大减少了计算量， 实现对目标的快速准确跟踪， 因此在目标跟踪领域逐渐发展壮大， 涌现出了更多的后续研究。
KCF算法典型过程主要包括岭回归[63]、 循环矩阵对角化、 核相关滤波、 目标快速检测4个过程：
（1） 岭回归
对于线性回归初始模型， 优化目标函数为
f（x）=W T Xs（11）
在样本Xs中找到权值 Wi 使对目标 Yi 的预测最小化：
min ω∑i（f（xi）-yi）2+λw2 （12）
式中： λ 为拟合控制参数。 对式（12）求导置零， 最优解为
w=（XsHXs+ λI）-1XsH y （13）
式中： Xs为样本矩阵; y 为标签。
（2） 循环矩阵
记Xn×1={x1， x2， …， xn} T为正样本， 训练样本即负样本通过正样本循环移位得到。 使用负样本训练分类器， 一维循环移位算子 P 为
P=000…1100…0010…000…10 （14）
向量x通过不断与循环移位算子 P 相乘， 得到 n 个向量组合的一维图像的循环矩阵C（x）。 对于二维图像， 通过在感兴趣区域内循环移位， 可以得到二维图像训练样本， 最终得到二维矩阵的循环矩阵。
（3） 核相关滤波器
为了改善分类器性能， 将原始空间数据映射到高维空间， 权重 ω 为输入样本的线性组合
ω=∑iαiφ（xi） （15）
引入核化技巧φT（x）φ（x′）=κ（x， x′） ， 式中最优解可以转换为
α=（K+λI）-1y （16）
式中： K为循环矩阵。
利用循环矩阵的性质整理式（16）为
α^=y^k^xx+λ （17）
式中： kxx 为循环矩阵K的第一行; y^ 为 y 的离散傅里叶变换。 一般情况下， 可通过对 α^ 的计算来求解分类器。
（4） 目标快速检测
设上一帧目标状态为 x ， 当前帧输入样本为 z ， 引入核矩阵K得到测试样本的响应， 即
f^（z）=k^xz⊙α^ （18）
对式（18）进行傅里叶逆变换得到样本的响应值， 以响应值中最大值的位置作为目标的位置， 然后更新分类器参数和目标模型：
xi=（1-θ）xi-1+θziαi=（1-θ）αi-1+θσi （19）
式中： xi 和 αi 分别为第 i 帧预测的目标位置模型和分类器参数; zi 和 σi 为检测到的目标位置模型和分类器参数; θ 为学习率。
2.3.3 研究进展
传统目标跟踪算法， 如均值漂移算法、 卡尔曼滤波算法[64]、 基于贝叶斯滤波的粒子算法[65]、 根据目标特征的TLD（Tracking Learning Detection）跟踪算法[66]、 基于压缩感知（Compressive Tracking， CT）的跟踪算法[67]， 在跟踪精确度和运算速度方面性能欠佳。 核相关算法则结合了CSK算法运算速度快的优势， 对分类器训练和样本检测等方面都做了改进， 在目标跟踪精度和识别成功率等方面都有了很大提升， 再利用方向梯度直方图特征使算法在跟踪速度方面也具备很好的性能， 超过了同期其他主流算法。
然而， KCF算法局限于对目标位置的跟踪， 并没有考虑目标尺寸变化或目标被遮挡等情况， 使得在实际跟踪中得到的目标分布区域与实际位置有所偏差。 同时， KCF算法在更新目标模型时会产生大量的正负样本， 在进行长时间跟踪或目标尺寸发生变化时容易丢失跟踪。 针对这些问题， 大量文献对KCF算法展开进一步研究。
为了解决目标跟踪过程中尺度变化、 目标被遮挡、 目标丢失等问题， Danelljan等[68]在KCF中引入尺度金字塔， 在位置估计基础上， 增加一个滤波器进行目标尺度估计， 通过位置滤波器估计目标在当前帧中的位置， 再使用尺度滤波器检测目标尺度变化， 以应对跟踪过程中目标尺度发生变化的情况。 该算法比原KCF算法在跟踪精度上有所改善， 但模型计算复杂度明显增加， 使得目标跟踪的实时性无法得到保证。 在此基础上， Li等[69]提出基于自适应尺度的核化相关滤波算法（SAMF）， 不再进行储存性训练， 只使用一个滤波器， 但在进行每次尺度测量时， 需要多进行一次特征值提取和傅里叶变换。 该算法虽然简化了计算， 但在图像较大时， 仍无法满足实时跟踪的要求。 王守义[70]提出了基于卷积特征的KCF算法， 该算法在高层和低层分别提取目标特征， 再利用卷积神经网络计算高层和底层的响应图， 将两层响应图进行融合， 实现目标在当前帧的位置估计。 该算法改善了目标尺度变化时跟踪效果变差的问题， 但是當目标被遮挡， 仍不能达到较好的跟踪效果， 鲁棒性较低[71-73]。 文献[74]提出多尺度相关滤波目标跟踪算法， 使用可塑性强和稳定性强的两种岭回归模型， 可塑性强的模型跟踪目标位置并以位置为中心构建图像金字塔， 稳定性强的模型预测目标尺度变化， 算法可以实现多尺度检测与跟踪。 文献[75]提出了深度缩放核相关滤波器（Depth Scaling Kernelized Correlation Filters， DSKCF）， 将KCF中的RGB目标跟踪算法通过融合深度特征扩展为RGB-D跟踪算法， 改善了目标尺度变化及目标被遮挡等问题。 为了应对在跟踪过程中丢失目标等问题。 刘延飞等[76]利用响应图中峰值数据的均值和标准差修正每帧中的峰值， 改善了KCF算法中长时间目标跟踪的问题。
为应对KCF算法中循环移位产生的边际效应问题， Danelljan等[77]引入空间整定因子约束滤波权重， 以牺牲算法的运算速度有效缓解了边际效应。 阮宏刚[78]提出基于稀疏特征的快速尺度的核自适应滤波算法， 在原KCF算法的基础上引入带宽可调的高斯窗， 结合相关滤波和稀疏特征估计目标位置， 并预测尺度变化， 可以更好地将目标与背景分离。
现有KCF算法在更新模型时使用固定学习率， 容易发生跟踪漂移现象。 为此， Asha等[79]提出了学习率的动态调整， 通过前后帧中目标的位置变化来更新变化率。 陈智等[80]在响应图中设置峰值、 阈值， 峰值大于阈值时更新跟踪模型。 Wang等[81]分析利用响应图来判断目标是否发生漂移， 但是当目标尺寸变化时， 会导致模型更新不准确的状况。
对于复杂场景， 单一核难以满足跟踪性能需求， KCF算法的多核融合是一种自然延展的方案。 文献[82]提出了用于视觉跟踪的边缘多核相关算法（LMKCF）， LMKCF主要利用低秩张量学习来减轻多核相关滤波器在学习和更新中的冗余和噪声， 建立了前瞻性的学习和更新策略。 文献[83]提出了一种约束多核相关跟踪算法（CMKCF）， 建立了具有三种不同属性的多通道特征的多核模型， 在半核矩阵上使用一个空间裁剪算子来解决边界效应。 文献[84]在KCF算法中引入TSK-FLS （Takagi Sugeno Kang-Fuzzy Logic System）， 提出了模糊核相关滤波器（Fuzzy Kernel Correlation Filter， FKCF）算法。 FKCF算法中采用TSK模糊系统前件映射代替核映射， 通过后件参数改进算法， 在目标剧烈运动时， FKCF算法跟踪精度有所提升。 文献[85]将多项式核与高斯核模糊化处理， 得到鲁棒性更强的核函数， 从多核融合的角度提出了多模糊核相关滤波器（Multiple Fuzzy Kernelized Correction Filter， MFKCF）， 算法有更高的跟踪精度与适应性。 为了降低跟踪过程中的累计误差， 文献[86]提出了基于时空显著性的双核自适应滤波算法（KCFSS）， 通过时空显著性方法搜索姿态稳定的局部区域， 该区域对累计误差有较低的敏感度， 有助于减少累计误差， 然后在原目标与显著区域之间建立双核跟踪模型， 可对目标跟踪位置进行微调。 受核协同方法在人脸识别等领域成功应用的启发， 文献[87]提出基于核协同的目标跟踪算法（Kernel Collaborative Presentation with L2 Regularization， KCRL2）， 将字典矩阵映射到高维空间， 同时引入L2正则最小均方， 加快计算速度， 以获取更高的跟踪精度。
针对红外目标跟踪中图形信息量少， 目标特征不足等问题， 学者们也对KCF算法进行了深入研究， 确保KCF算法在红外目标跟踪领域的跟踪效果。 Battistone等[88]采用局部分析和结构化向量机的方法， 在红外目标VOT比赛中取得了很好的名次。 为解决KCF中尺寸固定的问题， Montero等[89]提出了SKCF算法， 在KCF算法中引入可调高斯窗函数和尺度估计模型， 在红外目标跟踪中的跟踪精度较高。 郑武兴等[90]则在KCF算法中融入灰度和显著性特征， 所提算法可以有效用于空中红外目标的跟踪。
3 多核学习
核函数设计是核学习目标跟踪算法中的重要环节， 是影响跟踪性能的关键因素。 在不同应用场景下， 单个核函数会表现出很大差异， 对于复杂场景， 单个核函数难以满足目标形状复杂、 数据不规则、 环境复杂、 样本不平坦分布或规模巨大等实际应用需求。 研究表明， 多个核函数的融合可以提高复杂场景下的跟踪效果。 近年来， 大量学者开始研究多核学习方法[91-98]。 该方法中的多核模型是一种灵活性、 鲁棒性更强的核学习模型， 相关实验[99]也证明了多核模型能够获得比单核模型更好的跟踪性能。 现有多核学习方法主要有合成核、 多尺度核、 无限核3种典型方法。
3.1 合成核方法
合成核方法是多核学习的基本方法， 合成核的构造主要有5种方法： 多核线性组合合成方法、 多核扩展合成方法、 非平稳多核学习、 局部多核学习、 非稀疏多核学习[100-101]。 在样本数据量较复杂的情况下， 合成核方法得到的核函数跟踪精度较高。
合成核方法是较为通用的多核学习方法， 在图像的目标识别领域有广泛的应用。 文献[102]在金字塔框架下描述目标形状时采用多核表示。 文献[103]采用合成核方法获得了基于决策的目标类别的稀疏依赖图， 实现了多类目标检测， 提高了目标识别精度。 同时， 合成核方法还可以利用多核组合的稀疏性和分类器， 将学习问题转换成不同的优化问题[104-105]， 通过多特征空间的整合进行快速求解[106]。 另外， 合成核方法也在目标特征值的提取和处理[107-108]、 分类[109-112]、 圖像分割处理[113]、 系统辨识[114]等方面也得到了成功应用。
3.2 多尺度核方法
合成核方法是利用简单核函数的线性组合得到新的核函数， 而简单的线性组合方式在处理样本不均衡分布情况时不能取得较好的跟踪精度， 从而限制了决策函数的表示能力。 多尺度核方法引入尺度空间， 将多个尺度的核函数融合成一个灵活的新的核函数。 多尺度核方法不是简单的核函数线性组合， 其需要为每个核函数训练各自的带宽， 带宽较小的核函数用于跟踪变化剧烈的样本， 带宽较大的核函数用于跟踪变化比较平缓的样本。 多尺度核方法与合成核方法相比， 可以提高跟踪精度， 但是运算量较大， 在目标跟踪实时性方面表现不佳， 因此普适性比较低， 后续研究并不丰富。
对多尺度核方法进行适当扩展利于提高跟踪性能， 文献[115]将多尺度核进行了分类， 提出典型的多尺度核方法。 文献[116-117]将多尺度核方法用于时间序列预测和非平坦函数的估计， 提出了多尺度支持向量机回归。 文献[118]结合多尺度核方法在希尔伯特空间中对再生核进行函数重构。 文献[119-121]将多尺度核方法应用到高斯建模中， 推进了多尺度核方法的发展。
3.3 无限核方法
合成核方法和多尺度核方法是将有限个核函数线性组合或融合在一起， 然而对于大规模数据处理， 有限核组合成的多核处理方法不一定达到预期跟踪效果， 决策函数也不一定能表现到最优。 因此， 由有限个核函数向无限核扩展是多核学习的一个发展趋势。 目前， 核函数主要局限在高斯核函数（Gaussian Kernel）、 多项式核函数（Polynomial Kernel）、 线性核函数（Linear Kernel）、 指数核函数（Exponential Kernel）、 拉普拉斯核函数（Laplacian Kernel）这几种， 设计空间比较小， 并且有限核在较复杂的情况下往往也可以取得满意的跟踪效果， 因此无限核方法在目标跟踪方面的应用较少。
多核学習建立了更灵活、 适应范围更广、 鲁棒性更强的核学习模型， 在动态系统时间序列预测、 信号和图像的滤波、 压缩和超解析、 故障预报、 文本分类、 图像处理、 目标检测、 视频跟踪、 生物信息学（双螺旋、 基因序列数据分类、 蛋白质功能预测）等领域已有应用。
4 发展趋势展望
基于核方法的目标跟踪算法目前已有一定成果， 与其他跟踪方法相比在非线性处理、 数据驱动、 不依赖模型等方面具有一定优势。 然而在实际应用场景中， 现有算法还难以很好地满足实时性、 准确性、 鲁棒性、 适应性等多种需求。 因此， 基于核方法的目标跟踪算法存在较大的研究和探索空间， 主要体现在以下几个方面：
（1） 降低跟踪模型的依赖性
传统的贝叶斯目标跟踪算法， 如卡尔曼滤波、 粒子滤波等算法， 对系统模型和模型参数的先验信息有较高要求， 但在非线性处理或算法运行速度等方面表现不足。 将核方法引入经典目标跟踪算法中， 可以扩展算法在非线性处理方面的应用， 同时核函数代替样本空间的内积运算， 避免复杂的高维运算。 目标动力学模型可以通过训练测量数据构造的条件嵌入算子来描述[122]， 以降低跟踪算法对具体动态系统模型的依赖。
（2） 提高特征提取的准确性
视觉跟踪是目标跟踪领域的热点， 特征提取的优劣是影响视觉目标跟踪效能的关键因素。 提高特征提取的准确性可通过多特征融合和深度卷积特征实现。 在提取目标特征时， 与人工特征相比， 卷积特征有一定的优势[123-125]， 但选取何种网络训练特征仍需要进一步的研究和探索。 单一特征描述目标具有局限性， 多特征融合可以更加精确地描述目标外观特征[126-127]， 将目标与背景更好地区分开， 然而多特征融合及特征之间参数的调节会增加计算复杂度， 如何在提升跟踪性能的同时确保跟踪速度， 是需要权衡的问题。
（3） 提高基核设计的均衡性
对于复杂场景， 单个核函数难以满足复杂场景下的跟踪任务， 多核学习方法可以应对复杂任务场景下单一核跟踪不精确的问题， 通过多个基核的组合优化核函数， 调节与优化多个基核的权系数和其他参数， 以应对复杂应用场景。 但多核学习方法在适应更复杂应用场景的同时也会增加算法计算量， 因此研究高效的学习算法是必要的。 另外， 多核学习框架的均衡设计也有进一步深入探索的空间。
（4） 提高环境变化的适应性
现有的目标跟踪算法在一般情况下可以实现稳定的跟踪， 然而在目标尺度发生变化或被遮挡时， 算法跟踪精度下降或目标丢失。 因此， 如何在目标形状发生变化、 翻转或遮挡时依旧保持高精度跟踪， 是运动目标跟踪领域研究的热点与难点。 轨迹预测法和目标分块法可以有效提高环境变化时算法的适应性。 目标被局部遮挡或全部遮挡时， 轨迹预测法根据目标过去时刻运动状态估计被遮挡时刻运动状态， 有助于实现目标被短暂遮挡或全部遮挡时刻的稳健跟踪[128]。 目标分块法[129-130]对目标进行分块， 由各个子块的跟踪结果得到总的目标位置， 可以准确处理目标被部分遮挡的情况。
（5） 提高稳定跟踪的持久性
现有运动目标跟踪算法多是针对短时跟踪任务， 长时间目标跟踪情况下， 鲁棒性和跟踪精度有下降趋势， 因此， 确保长期鲁棒的目标跟踪算法值得进一步深入研究。 虽然已经有部分学者着手研究长时间的目标跟踪， 但是缺乏长时间跟踪算法框架， 算法本质是在短时间跟踪算法框架下引入校正模块或者加入重检测模块。 从根源上解决目标跟踪的持久性与稳定性问题， 需要在长期跟踪算法框架上进行探索与研究。
（6） 注重方法结构的继承性
经典目标跟踪算法积累深厚、 计算简捷、 适应范围广， 将核学习方法嵌入到经典目标跟踪方法框架， 有助于建立一般性算法架构， 提升算法灵活性与适用性， 便于算法评价。 如核学习方法中嵌入贝叶斯滤波等目标跟踪算法， 可以提升目标短暂遮挡下的稳定跟踪能力， 与置信传播算法结合则有助于实现多个目标的有效跟踪[51]。 因此， 注重实现核学习方法对经典目标跟踪方法的继承与融合， 对建立更具普适性的目标跟踪算法具有显著意义， 需要进一步探索与研究。
（7） 注重探測方法的兼容性
现有多数核学习方法是基于图像和视频处理的目标跟踪算法， 在雷达目标跟踪领域涉及较少。 实际上， 核学习方法有效提高了样本空间内积化效率， 不仅适用于图像视频处理， 在基于雷达的有噪时间序列预测与估计、 动力学模型建立等方面也有优良的性能[131-132]， 因此， 核学习方法有潜力扩展其应用范围， 在雷达等非成像探测方式上实现兼具实时性和精准度的高性能目标跟踪。
5 结 束 语
核学习方法作为线性到非线性之间的桥梁， 为许多模式分析应用领域提供了可行的统一框架。 将核方法应用于运动目标跟踪， 通过核函数和核技巧简化空间复杂的内积运算， 可在非线性处理、 数据驱动、 泛化性能等方面获得较好表现。 基于核函数的目标跟踪算法具有重要的研究意义和广阔的应用前景， 在智能决策、 无人系统、 模式识别等领域具有潜在的应用价值。
参考文献：
[1] Smeulders A W M， Chu D M， Cucchiara R， et al. Visual Tracking： An Experimental Survey[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence， 2014， 36（7）： 1442-1468.
[2] 王丹. 基于运动检测的智能视频监控系统设计[D]. 太原： 中北大学， 2017.
Wang Dan. Intelligent Video Surveillance System Design Based on Motion Detection[D]. Taiyuan： North University of China， 2017. （in Chinese）
[3] Gündüz G， Acarman A T. A Lightweight Online Multiple Object Vehicle Tracking Method[C]∥ IEEE Intelligent Vehicles Symposium （IV）， 2018： 427-432.
[4] 陆渊章， 戴红霞， 胡莹， 等. 基于机器视觉的无人机协同目标跟踪算法研究[J]. 电子器件， 2020， 43（5）： 1096-1099.
Lu Yuanzhang， Dai Hongxia， Hu Ying， et al. Research on Cooperative Target Tracking Algorithm for UAV Based on Machine Vision[J]. Chinese Journal of Electron Devices， 2020， 43（5）： 1096-1099.（in Chinese）
[5] 高婷婷. 基于多目标跟踪的医学影像分析[D]. 西安： 西安电子科技大学， 2012.
Gao Tingting. Medical Image Analysis Based on Multi-Target Tracking[D]. Xian： Xidian University， 2012. （in Chinese）
[6] Aronszajn N. Theory of Reproducing Kernels[J]. Transactions of the American Mathematical Society， 1950， 68（3）： 337.
[7] Schlkopf B， Smola A， Müller K R. Nonlinear Component Analysis as a Kernel Eigenvalue Problem[J]. Neural Computation， 1998， 10（5）： 1299-1319.
[8] Mika S， Ratsch G， Weston J， et al. Fisher Discriminant Analysis with Kernels[C]∥Neural Networks for Signal Processing IX： Proceedings of the 1999 IEEE Signal Processing Society Workshop， 1999： 41-48.
[9] Bach F R， Jordan M I. Kernel Independent Component Analysis[C]∥2003 IEEE International Conference on Acoustics， Speech， and Signal Processing， 2003.
[10] Fukunaga K， Hostetler L. The Estimation of the Gradient of a Density Function， with Applications in Pattern Recognition[J]. IEEE Transactions on Information Theory， 1975， 21（1）： 32-40.
[11] Cheng Y Z. Mean Shift， Mode Seeking， and Clustering[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence， 1995， 17（8）： 790-799.
[12] Comaniciu D， Ramesh V， Meer P. Real-Time Tracking of Non-Rigid Objects Using Mean Shift[C]∥Proceedings IEEE Conference on Computer Vision and Pattern Recognition， 2000： 142-149.
[13] Comaniciu D， Meer P. Mean Shift Analysis and Applications[C]∥Proceedings of the Seventh IEEE International Conference on Computer Vision， 1999： 1197-1203.
[14] Comaniciu D， Meer P. Mean Shift： A Robust Approach Toward Feature Space Analysis[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence， 2002， 24（5）： 603-619.
[15] Comaniciu D， Meer P. Robust Analysis of Feature Spaces： Color Image Segmentation[C]∥Proceedings of IEEE Computer Society Conference on Computer Vision and Pattern Recognition， 1997： 750-755.
[16] Comaniciu D， Ramesh V， Meer P. The Variable Bandwidth Mean Shift and Data-Driven Scale Selection[C]∥Proceedings of the Eighth IEEE International Conference on Computer Vision， 2001： 438-445.
[17] Comaniciu D， Ramesh V， Meer P. Kernel-Based Object Tracking[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence， 2003， 25（5）： 564-577.
[18] Lindeberg T. Feature Detection with Automatic Scale Selection[J]. International Journal of Computer Vision， 1998， 30（2）： 79-116.
[19] Collins R T. Mean-Shift Blob Tracking through Scale Space[C]∥ IEEE Computer Society Conference on Computer Vision and Pattern Recognition， 2003.
[20] 李鄉儒， 吴福朝， 胡占义. 均值漂移算法的收敛性[J]. 软件学报， 2005， 16（3）： 365-374.
Li Xiangru， Wu Fuchao， Hu Zhanyi. Convergence of a Mean Shift Algorithm[J]. Journal of Software， 2005， 16（3）： 365-374.（in Chinese）
[21] Li X R， Hu Z Y， Wu F C. A Note on the Convergence of the Mean Shift[J]. Pattern Recognition， 2007， 40（6）： 1756-1762.
[22] Birchfield S T， Rangarajan S. Spatiograms Versus Histograms for Region-Based Tracking[C]∥ IEEE Computer Society Conference on Computer Vision and Pattern Recognition （CVPR）， 2005： 1158-1163.
[23] 李培华. 一种改进的Mean Shift跟踪算法[J]. 自动化学报， 2007， 33（4）： 347-354.
Li Peihua. An Improved Mean Shift Algorithm for Object Tracking[J]. Acta Automatica Sinica， 2007， 33（4）： 347-354.（in Chinese）
[24] 杜凯， 巨永锋， 靳引利， 等. 自适应分块颜色直方图的Mean Shift跟踪算法[J]. 武汉理工大学学报， 2012， 34（6）： 140-144.
Du Kai， Ju Yongfeng， Jin Yinli， et al. Mean Shift Tracking Algorithm with Adaptive Block Color Histogram[J]. Journal of Wuhan University of Technology， 2012， 34（6）： 140-144.（in Chinese）
[25] Gouiffès M， Laguzet F， Lacassagne L. Projection-Histograms for Mean-Shift Tracking[C]∥IEEE International Conference on Image Processing， 2010.
[26] Leichter I， Lindenbaum M， Rivlin E. Mean Shift Tracking with Multiple Reference Color Histograms[J]. Computer Vision and Image Understanding， 2010， 114（3）： 400-408.
[27] Leichter I. Mean Shift Trackers with Cross-Bin Metrics[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence， 2012， 34（4）： 695-706.
[28] Ning J， Zhang L， Zhang D， et al. Robust Mean-Shift Tracking with Corrected Background-Weighted Histogram[J]. IET Computer Vision， 2012， 6（1）： 62.
[29] Jeyakar J， Babu R V， Ramakrishnan K R. Robust Object Tracking with Background-Weighted Local Kernels[J]. Computer Vision and Image Understanding， 2008， 112（3）： 296-309.
[30] Li L， Feng Z P. An Efficient Object Tracking Method Based on Adaptive Nonparametric Approach[J]. Opto-Electronic Review， 2005， 13（4）： 325-330.
[31] Allen J G， Xu R Y D， Jin J S. Mean Shift Object Tracking for a SIMD Computer[C]∥Third International Conference on Information Technology and Applications （ICITA）， 2005.
[32] Welch G. Bishop G. An Introduction to the Kalman Filter[R]. North Carolina： UNC-Chapel Hill， 2006.
[33] 周尚波， 胡鵬， 柳玉炯. 基于改进Mean-Shift与自适应Kalman滤波的视频目标跟踪[J]. 计算机应用， 2010， 30（6）： 1573-1576.
Zhou Shangbo， Hu Peng， Liu Yujiong. Target Tracking Based on Improved Mean-Shift and Adaptive Kalman Filter[J]. Journal of Computer Applications， 2010， 30（6）： 1573-1576.（in Chinese）
[34] Babu R V， Pérez P， Bouthemy P. Robust Tracking with Motion Estimation and Local Kernel-Based Color Modeling[J]. Image and Vision Computing， 2007， 25（8）： 1205-1216.
[35] Ali A， Terada K. A General Framework for Multi-Human Tracking Using Kalman Filter and Fast Mean Shift Algorithms[J]. Journal of Universal Computer Science， 2010， 16（6）： 921-937.
[36] Li X H， Zhang T Y， Shen X D， et al. Object Tracking Using an Adaptive Kalman Filter Combined with Mean Shift[J]. Optical Engineering， 2010， 49（2）： 020503.
[37] Chu C T， Hwang J N， Wang S Z， et al. Human Tracking by Adaptive Kalman Filtering and Multiple Kernels Tracking with Projected Gradients[C]∥Fifth ACM/IEEE International Conference on Distributed Smart Cameras， 2011： 1-6.
[38] Chu C T， Hwang J N， Pai H I， et al. Tracking Human under Occlusion Based on Adaptive Multiple Kernels with Projected Gra-dients[J]. IEEE Transactions on Multimedia， 2013， 15（7）： 1602-1615.
[39] 彭宁嵩， 杨杰， 周大可， 等. Mean-Shift跟踪算法中目标模型的自适应更新[J]. 数据采集与处理， 2005， 20（2）： 125-129.
Peng Ningsong， Yang Jie， Zhou Dake， et al. Mean-Shift Tracking with Adaptive Model Update Mechanism[J]. Journal of Data Acquisition & Processing， 2005， 20（2）： 125-129.（in Chinese）
[40] Peng N S， Yang J， Liu Z. Mean Shift Blob Tracking with Kernel Histogram Filtering and Hypothesis Testing[J]. Pattern Recognition Letters， 2005， 26（5）： 605-614.
[41] Wang L L， Xin Y H. A Small IR Target Detection and Tracking Algorithm Based on Morphological and Genetic-Particle Filter[J]. Acta Photonica Sinica， 2013， 42（7）： 849-856.
[42] 魏坤， 赵永强， 潘泉， 等. 基于均值漂移和粒子濾波的红外目标跟踪[J]. 光电子·激光， 2008， 19（2）： 213-217.
Wei Kun， Zhao Yongqiang， Pan Quan， et al. IR Target Tracking Based on Mean Shift and Particle Filter[J]. Journal of Optoelectronics Laser， 2008， 19（2）： 213-217.（in Chinese）
[43] 张一帆， 田雁， 杨帆， 等. 基于改进的Mean-Shift算法的红外小目标跟踪[J].红处与激光工程， 2014， 43（7）： 2164-2169.
Zhang Yifan， Tian Yan， Yang Fan， et al. Infrared Dim Target Tracking Based on Improved Mean-Shift[J]. Infrared and Laser Engineering， 2014， 43（7）： 2164-2169. （in Chinese）
[44] Zhang H H， Huang Z Y， Huang W M， et al. Kernel-Based Method for Tracking Objects with Rotation and Translation[C]∥Proceedings of the 17th International Conference on Pattern Recognition， 2004： 728-731.
[45] Zhang H H， Huang W M， Huang Z Y， et al. Affine Object Tracking with Kernel-Based Spatial-Color Representation[C]∥IEEE Computer Society Conference on Computer Vision and Pattern Recognition （CVPR）， 2005.
[46] Yilmaz A. Object Tracking by Asymmetric Kernel Mean Shift with Automatic Scale and Orientation Selection[C]∥IEEE Conference on Computer Vision and Pattern Recognition， 2007.
[47] Yang C J， Duraiswami R， Davis L. Efficient Mean-Shift Tracking via a New Similarity Measure[C]∥IEEE Computer Society Conference on Computer Vision and Pattern Recognition（CVPR）， 2005.
[48] Elgammal A， Duraiswami R， Davis L S. Probabilistic Tracking in Joint Feature-Spatial Spaces[C]∥IEEE Computer Society Conference on Computer Vision and Pattern Recognition， 2003.
[49] Elgammal A， Duraiswami R， Davis L S. Efficient Non-Parametric Adaptive Color Modeling Using Fast Gauss Transform[C]∥IEEE Computer Society Conference on Computer Vision and Pattern Re-cognition， 2001.
[50] Leichter I， Lindenbaum M， Rivlin E. Visual Tracking by Affine Kernel Fitting Using Color and Object Boundary[C]∥ IEEE 11th International Conference on Computer Vision， 2007.
[51] Park M， Liu Y X， Collins R T. Efficient Mean Shift Belief Propagation for Vision Tracking[C]∥ IEEE Conference on Computer Vision and Pattern Recognition， 2008.
[52] Fan Z M， Yang M， Wu Y. Multiple Collaborative Kernel Tracking[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence， 2007， 29 （7）： 1268-1273.
[53] Topkaya I S， Erdogan H. Using Spatial Overlap Ratio of Independent Classifiers for Likelihood Map Fusion in Mean-Shift Tracking[J]. Signal， Image and Video Processing， 2019， 13（1）： 61-67.
[54] Wang H， Wang X Y， Yu L J， et al. Design of Mean Shift Tracking Algorithm Based on Target Position Prediction[C]∥ IEEE International Conference on Mechatronics and Automation （ICMA）， 2019： 1114-1119.
[55] Yu W S， Hou Z Q， Hu D， et al. Robust Mean Shift Tracking Based on Refined Appearance Model and Online Update[J]. Multimedia Tools and Applications， 2017， 76（8）： 10973-10990.
[56] Zeng H Q， Chen J， Cui X L， et al. Quad Binary Pattern and Its Application in Mean-Shift Tracking[J]. Neurocomputing， 2016， 217： 3-10.
[57] Phadke G， Velmurugan R. Mean LBP and Modified Fuzzy C-Means Weighted Hybrid Feature for Illumination Invariant Mean-Shift Tracking[J]. Signal， Image and Video Processing， 2017， 11（4）： 665-672.
[58] Liu Y， Jing X Y， Nie J H， et al. Context-Aware Three-Dimensional Mean-Shift with Occlusion Handling for Robust Object Tracking in RGB-D Videos[J]. IEEE Transactions on Multimedia， 2019， 21（3）： 664-677.
[59] Bolme D S， Beveridge J R， Draper B A， et al. Visual Object Tracking Using Adaptive Correlation Filters[C]∥ IEEE Computer Society Conference on Computer Vision and Pattern Recognition， 2010： 2544-2550.
[60] Henriques J F， Caseiro R， Martins P， et al. Exploiting the Circulant Structure of Tracking-by-Detection with Kernels[C]∥12th European Conference on Computer Vision， 2012： 702-715.
[61] Danelljan M， Khan F S， Felsberg M， et al. Adaptive Color Attri-butes for Real-Time Visual Tracking[C]∥ IEEE Conference on Computer Vision and Pattern Recognition， 2014： 1090-1097.
[62] Henriques J F， Caseiro R， Martins P， et al. High-Speed Tracking with Kernelized Correlation Filters[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence， 2015， 37（3）： 583-596.
[63] 何秀麗. 多元线性模型与岭回归分析[D]. 武汉： 华中科技大学， 2005.
He Xiuli. Research on Multivariate Linear Model and Ridge Regression[D]. Wuhan： Huazhong University of Science and Technology， 2005. （in Chinese）
[64] 王耀林， 盖梦欧， 周敏. IMM算法在空中复杂机动目标跟踪中的应用[J]. 现代信息科技， 2020， 4（13）： 9-11.
Wang Yaolin， Gai Mengou， Zhou Min. Application of IMM Algorithm in Tracking Complex Maneuvering Targets in the Air[J]. Modern Information Technology， 2020， 4（13）： 9-11.（in Chinese）
[65] Arulampalam M S， Maskell S， Gordon N， et al. A Tutorial on Particle Filters for Online Nonlinear/Non-Gaussian Bayesian Tracking[J]. IEEE Transactions on Signal Processing， 2002， 50（2）： 174-188.
[66] Kalal Z， Mikolajczyk K， Matas J. Tracking-Learning-Detection Kernel[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence， 2011， 34（7）： 409-422.
[67] Zhang K H， Zhang L， Yang M H. Real-Time Compressive Tracking[C]∥12th European Conference on Computer Vision， 2012： 864-877.
[68] Danelljan M， Hager G， Khan F S， et al. Accurate Scale Estimation for Robust Visual Tracking[C]∥British Machine Vision Conference， 2014.
[69] Li Y， Zhu J K. A Scale Adaptive Kernel Correlation Filter Tracker with Feature Integration[C]∥ European Conference on Computer Vision， 2015： 254-265.
[70] 王守义. 基于核相关滤波的目标跟踪算法研究与实现[D]. 太原： 中北大学， 2018.
Wang Shouyi. Research and Implementation of Target Tracking Algorithm Based on Kernel Correlation Filtering[D]. Taiyuan： North University of China， 2018. （in Chinese）
[71] 张雷， 王延杰， 孙宏海， 等. 采用核相关滤波器的自适应尺度目标跟踪[J]. 光学精密工程， 2016， 24（2）： 448-459.
Zhang Lei， Wang Yanjie， Sun Honghai， et al. Adaptive Scale Object Tracking with Kernelized Correlation Filters[J]. Optics and Precision Engineering， 2016， 24（2）： 448-459.（in Chinese）
[72] 秦晓飞， 代顺锋， 李峰. 基于改进的核相关滤波器的目标跟踪算法[J]. 测控技术， 2017， 36（10）： 3-6.
Qin Xiaofei， Dai Shunfeng， Li Feng. Target Tracking Algorithm Based on Improved Kernel Correlation Filter[J]. Measurement & Control Technology， 2017， 36（10）： 3-6.（in Chinese）
[73] 錢堂慧， 罗志清， 李果家， 等. 核相关滤波跟踪算法的尺度自适应改进[J]. 计算机应用， 2017， 37（3）： 811-816.
Qian Tanghui， Luo Zhiqing， Li Guojia， et al. Scale Adaptive Improvement of Kernel Correlation Filter Tracking Algorithm[J]. Journal of Computer Applications， 2017， 37（3）： 811-816.（in Chinese）
[74] 夏翔， 张晓林， 李嘉茂. 结合尺度预测的核相关滤波器目标跟踪方法[J]. 电子设计工程， 2017， 25（2）： 130-135.
Xia Xiang， Zhang Xiaolin， Li Jiamao. Kernelized Correlation Filter Based Visual Tracking with Scale Estimation[J]. Electronic Design Engineering， 2017， 25（2）： 130-135.（in Chinese）
[75] Hannuna S， Camplani M， Hall J， et al. DS-KCF： A Real-Time Tracker for RGB-D Data[J]. Journal of Real-Time Image Processing， 2019， 16（5）： 1439-1458.
[76] 刘延飞， 何燕辉， 姜柯， 等. 采用异常值检测及重定位改进的KCF跟踪算法[J]. 计算机工程与应用， 2018， 54（20）： 166-171.
Liu Yanfei， He Yanhui， Jiang Ke， et al. Improved KCF Tracking Algorithm Using Outlier Detection and Relocation[J]. Computer Engineering and Applications， 2018， 54（20）： 166-171.（in Chinese）
[77] Danelljan M， Hger G， Khan F S， et al. Learning Spatially Regularized Correlation Filters for Visual Tracking[C]∥ IEEE International Conference on Computer Vision （ICCV）， 2015.
[78] 阮宏刚. 基于核相关滤波的目标跟踪方法研究[D]. 南京： 南京邮电大学， 2018.
Ruan Honggang. Research on Object Tracking Based on Kernel Correlation Filter[D]. Nanjing： Nanjing University of Posts and Telecommunications， 2018. （in Chinese）
[79] Asha C S， Narasimhadhan A V. Adaptive Learning Rate for Visual Tracking Using Correlation Filters[J]. Procedia Computer Science， 2016， 89： 614-622.
[80] 陈智， 柳培忠， 骆炎民， 等. 自适应特征融合的多尺度相关滤波目标跟踪算法[J]. 计算机辅助设计与图形学学报， 2018， 30（11）： 2063-2073.
Chen Zhi， Liu Peizhong， Luo Yanmin， et al. Multi-Scale Correlation Filter Tracking Algorithm Based on Adaptive Feature Fusion[J]. Journal of Computer-Aided Design & Computer Graphics， 2018， 30（11）： 2063-2073.（in Chinese）
[81] Wang M M， Liu Y， Huang Z Y. Large Margin Object Tracking with Circulant Feature Maps[C]∥ IEEE Conference on Computer Vision and Pattern Recognition （CVPR）， 2017.
[82] Tang M， Feng J Y. Multi-Kernel Correlation Filter for Visual Tracking[C]∥IEEE International Conference on Computer Vision （ICCV）， 2015.
[83] Huang B， Xu T F， Jiang S W， et al. Robust Visual Tracking via Constrained Multi-Kernel Correlation Filters[J]. IEEE Transactions on Multimedia， 2020， 22（11）： 2820-2832.
[84] 陳晨， 高艳丽， 邓赵红， 等. TSK模糊逻辑系统相关滤波器跟踪算法[J]. 计算机科学与探索， 2020， 14（2）： 294-306.
Chen C， Gao Y L， Deng Z H， et al. Correlation Filter Tracking Algorithm Using TSK Fuzzy Logic System[J]. Journal of Frontiers of Computer Science and Technology， 2020， 14（2）： 294-306. （in Chinese）
[85] Zhou Y， Wang T， Hu R H， et al. Multiple Kernelized Correlation Filters （MKCF） for Extended Object Tracking Using X-Band Marine Radar Data[J]. IEEE Transactions on Signal Processing， 2019， 67（14）： 3676-3688.
[86] 邓春华， 刘小楠， 朱子奇， 等. 一种基于时空显著性的双核KCF目标跟踪方法： CN110322479A[P]. 2019-10-11.
Deng Chunhua， Liu Xiaonan， Zhu Ziqi， et al. Dual-Core KCF Target Tracking Method Based on Space-Time Significance： CN110322479A[P]. 2019-10-11.（in Chinese）
[87] 王海軍， 葛红娟， 张圣燕. 基于核协同表示的快速目标跟踪算法[J]. 浙江大学学报： 工学版， 2017， 51（2）： 399-407.
Wang Haijun， Ge Hongjuan， Zhang Shengyan. Fast Object Tracking Algorithm via Kernel Collaborative Presentation[J]. Journal of Zhejiang University： Engineering Science， 2017， 51（2）： 399-407.（in Chinese）
[88] Battistone F， Petrosino A， Santopietro V. Best Structured Tracker[C]∥Workshop on Visual Object Tracking Challenge， 2014.
[89] Montero A S， Lang J， Laganière R. Scalable Kernel Correlation Filter with Sparse Feature Integration[C]∥ IEEE International Conference on Computer Vision Workshop （ICCVW）， 2015.
[90] 郑武兴， 王春平， 付强， 等. 融合灰度与显著性特征的空中红外目标跟踪[J]. 激光与红外， 2018， 48（3）： 338-342.
Zheng Wuxing， Wang Chunping， Fu Qiang， et al. Aerial Infrared Target Tracking Based on Gray and Saliency Features Fusion[J]. Laser & Infrared， 2018， 48（3）： 338-342.（in Chinese）
[91] Lewis D P， Jebara T， Noble W S. Nonstationary Kernel Combination[C]∥The 23rd International Conference on Machine Learning， 2006： 553-560.
[92] Ong C S， Smola A J， Williamson R C. Learning the Kernel with Hyperkernels[J]. Journal of Machine Learning Research， 2005， 6： 1043-1047.
[93] Lanckriet G， Cristianini N， Bartlett P， et al. Learning the Kernel Matrix with Semi-Definite Programming[J]. Journal of Machine Learning Research， 2002， 5： 323-330.
[94] Bach F R， Lanckriet G R G， Jordan M I. Multiple Kernel Learning， Conic Duality， and the SMO Algorithm[C]∥ The 21st International Conference on Machine Learning， 2004： 41-48.
[95] Sonnenburg S， Ratsch G， Schafer C. A General and Efficient Multiple Kernel Learning Algorithm[C]∥ The Advances in Neural Information Processing Systems， 2005： 1273-1280.
[96] Zien A， Ong C S. Multiclass Multiple Kernel Learning[C]∥24th International Conference on Machine Learning， 2007： 1191-1198.
[97] Gehler P V， Nowozin S. Infinite Kernel Learning[C]∥ Max Planck Institute for Biological Cybernetics， 2008.
[98] Gnen M， Alpaydin E. Localized Multiple Kernel Learning[C]∥25th International Conference on Machine Learning， 2008： 352-359.
[99] Gnen M， Alpaydin E. Multiple Kernel Learning Algorithms[J]. Journal of Machine Learning Research， 2011， 12： 2211-2268.
[100] Lanckriet G R G， Cristianini N， Bartlett P， et al. Learning the Kernel Matrix with Semidefinite Programming[J]. Journal of Machine Learning Research， 2004， 5： 27-72.
[101] Lee W J， Verzakov S， Duin R P W. Kernel Combination Versus Classifier Combination[C] ∥7th International Workshop on Multiple Classifier Systems， 2007： 22-31.
[102] Pavlidis P， Weston J， Cai J， et al. Gene Functional Classification from Heterogeneous Data[C]∥5th Annual International Conference on Computation Biology， 2001： 249-255.
[103] Lampert C H， Blaschko M B. A Multiple Kernel Learning Approach to Joint Multi-Class Object Detection[C]∥DAGM： Joint Pattern Recognition Symposium， 2008： 31-40.
[104] He J F， Chang S F， Xie L X. Fast Kernel Learning for Spatial Pyramid Matching[C]∥ IEEE Conference on Computer Vision and Pattern Recognition， 2008.
[105] Kumar A， Sminchisescu C. Support Kernel Machines for Object Recognition[C]∥ IEEE 11th International Conference on Computer Vision， 2007.
[106] Damoulas T， Girolami M A. Pattern Recognition with a Bayesian Kernel Combination Machine[J]. Pattern Recognition Letters， 2009， 30（1）： 46-54.
[107] Mak B， Kwok J T， Ho S. A Study of Various Composite Kernels for Kernel Eigenvoice Speaker Adaptation[C]∥IEEE International Conference on Acoustics， Speech， and Signal Processing， 2004.
[108] Fu S Y， Guo S Y， Hou Z G， et al. Multiple Kernel Learning from Sets of Partially Matching Image Features[C]∥19th International Conference on Pattern Recognition， 2008.
[109] Zheng S， Liu J， Tian J W. An Efficient Star Acquisition Method Based on SVM with Mixtures of Kernels[J]. Pattern Recognition Letters， 2005， 26（2）： 147-165.
[110] Fung G， Dundar M， Bi J B， et al. A Fast Iterative Algorithm for Fisher Discriminant Using Heterogeneous Kernels[C]∥21st International Conference on Machine Learning， 2004.
[111] Damoulas T， Girolami M A. Combining Feature Spaces for Classification[J]. Pattern Recognition， 2009， 42（11）： 2671-2683.
[112] Damoulas T， Girolami M A. Pattern Recognition with a Bayesian Kernel Combination Machine[J]. Pattern Recognition Letters， 2009， 30（1）： 46-54.
[113] Camps-Valls G， Gomez-Chova L， Munoz-Mari J， et al. Compo-site Kernels for Hyperspectral Image Classification[J]. IEEE Geo-science and Remote Sensing Letters， 2006， 3（1）： 93-97.
[114] Camps-Valls G， Martinez-Ramon M， Rojo-Alvarez J L， et al. Nonlinear System Identification with Composite Relevance Vector Machines[J]. IEEE Signal Processing Letters， 2007， 14（4）： 279-282.
[115] Kingsbury N， Tay D B H， Palaniswami M. Multi-Scale Kernel Methods for Classification[C]∥IEEE Workshop on Machine Learning for Signal Processing， 2005.
[116] Zheng D N， Wang J X， Zhao Y N. Non-Flat Function Estimation with a Multi-Scale Support Vector Regression[J]. Neurocomputing， 2006， 70（1/2/3）： 420-429.
[117] Yang Z， Guo J， Xu W R， et al. Multi-Scale Support Vector Machine for Regression Estimation[C]∥ 3rd International Symposium on Neural Networks， 2006： 1030-1037.
[118] Opfer R. Multiscale Kernels[J]. Advances in Computational Mathematics， 2006， 25（4）： 357-380.
[119] Zhou Y T， Zhang T Y， Li X H. Multi-Scale Gaussian Processes Model[J]. Journal of Electronics （China）， 2006， 23（4）： 618-622.
[120] Walder C， Kim K I， Schlkopf B. Sparse Multiscale Gaussian Process Regression[C]∥25th International Conference on Machine Learning， 2008.
[121] Christoudias M， Urtasun R， Darrell T. Bayesian Localized Multiple Kernel Learning[R]. Berkeley： University of California， 2009.
[122] Zhu P P， Chen B D， Principe J C. Learning Nonlinear Generative Models of Time Series with a Kalman Filter in RKHS[J]. IEEE Transactions on Signal Processing， 2014， 62（1）： 141-155.
[123] Danelljan M， Robinson A， Khan F S， et al. Beyond Correlation Filters： Learning Continuous Convolution Operators for Visual Tracking[C]∥14th European Conference on Computer Vision， 2016： 472-488.
[124] Danelljan M， Bhat G， Khan F S， et al. ECO： Efficient Convolution Operators for Tracking[C]∥IEEE Conference on Computer Vision and Pattern Recognition （CVPR）， 2017.
[125] Bhat G， Johnander J， Danelljan M， et al. Unveiling the Power of Deep Tracking[C]∥15th European Conference on Computer Vision， 2018： 493-509.
[126] An X W， Liang Q Q， Sun N L. Multi-Kernel Support Correlation Filters with Temporal Filtering Constraint for Object Tracking[J]. Multimedia Tools and Applications， 2021， 80（9）： 14041-14073.
[127] Su Z Y， Li J， Chang J， et al. Real-Time Visual Tracking Using Complementary Kernel Support Correlation Filters[J]. Frontiers of Computer Sciece， 2020， 14（2）： 417-429.
[128] Sun J P， Ding E J， Sun B， et al. Adaptive Kernel Correlation Filter Tracking Algorithm in Complex Scenes[J]. IEEE Access， 2020， 8： 208179-208194.
[129] Luo M Q， Zhou B， Wang T. Multi-Part and Scale Adaptive Visual Tracker Based on Kernel Correlation Filter[J]. PLoS One， 2020， 15（4）： e0231087.
[130] Du F， Wang W L， Zhang Z. Target Tracking Algorithm for Pedestrians Movement Based on Kernel-Correlation Filtering[J]. Enterprise Information Systems， 2020： 1-15.
[131] Dang L J， Chen B D， Wang S Y， et al. Kernel Kalman Filtering with Conditional Embedding and Maximum Correntropy Criterion[J]. IEEE Transactions on Circuits and Systems I： Regular Papers， 2019， 66（11）： 4265-4277.
[132] Rosinha J B， de Almeida S J M， Bermudez J C M. A New Kernel Kalman Filter Algorithm for Estimating Time-Varying Nonlinear Systems[C]∥ IEEE International Symposium on Circuits and Systems （ISCAS）， 2017： 1-4.
A Review on Kernel Learning Method of Moving Target Tracking
Lou Jiaxin1， Li Yuankai1*， Wang Yuan1， Xu Yanke2
（1. University of Electronic Science and Technology of China， Chengdu 611731， China;
2. China Airborne Missile Academy， Luoyang 471009， China）
Abstract： The kernel method maps the original spatial data to a high-dimensional Hilbert space by nonlinear mapping and hides the mapping in the linear learner. The kernel function is used to replace the complex inner product operation in high-dimensional space， which can effectively avoid the ‘curse of dimensionality caused by high-dimensional space calculation. The kernel method has the advantages of learnability， efficient calculation， linearization and good generalization performance， which provides a new effective way to solve the problem of nonlinear target tracking. The traditional target tracking methods often use the tracking model to predict the current motion state of the target and ensure the accuracy and real-time tracking. The kernel method provides a general way of linearization and can be independent of the specific model with efficient computing. Introducing the kernel learning method into target tracking is expected to improve environmental adaptability. In this paper， based on the idea of kernel method， the current research progress of kernel learning target tracking is presented， including target detection method based on kernel learning， generative and discriminative target tracking method， and multi-kernel learning method with different kernel functions. Further research on kernel learning target tracking for kernel function optimization， long-term tracking， feature extraction and target occlusion are prospected.
Key words： kernel learning method; nonlinear mapping; target detection; target tracking; multiple kernel learning; pattern recognition
