沈阳理工大学 黄海新 刘孝阳 王瑞鹏

注意力机制是机器学习领域的主流方法和研究热点之一，计算机视觉中的注意力机制旨在让系统能够忽略无关信息而更多的关注重点的有效信息，具有参数少、计算快、效果好的优点。本文先对注意力的原理进行探索，在此基础上对一些经典的注意力模型和当前流行的注意力模型进行详细地分析讨论，最后对注意力机制未来的发展进行了一定的展望。

注意力机制是机器学习任务中一个基础性问题，按照作用域的不同，可以分为空间域注意力机制、通道域注意力机制以及混合域注意力机制。由于其参数少、计算快、效果好三大优点而在视觉任务的检测、分类、分割、行为识别等方面有着良好的表现。

1 基于视觉的注意力模型的研究

视觉任务中，注意力可以是施加在空间域，也可以在通道域，或者是将二者结合施加在混合域。空间域的注意力机制，首先对输入特征图进行通道压缩，然后利用压缩之后的特征图进行相似度计算得到自相关矩阵，将自相关矩阵归一化成为[0,1]之间的权重矩阵后与原特征矩阵相乘。通道域的注意力机制一般需要对输入的特征图C×H×W进行全局池化得到一个一维向量1×1×C，然后对这个一维向量进行特征交互，计算相关性，最后将交互之后的特征向量进行归一化得到通道权重向量，将通道权重向量施加到原特征图中。混合域的注意力机制在空间域和通道域都需要做相关性处理，这种处理方式可以是先空间域后通道域(也可以是先通道域再空间域)的串行处理方式也可以是空间域和通道域并行处理的方式。……