张宸逍，潘 庆，王效灵

(浙江工商大学信息与电子工程学院，浙江 杭州 310018)

0 引 言

卷积神经网络(CNN)的诞生使极具挑战的图像识别任务取得了远远超越人类的准确性。ILSVRC作为计算机视觉领域最具影响力的竞赛，诞生了包括AlexNet[1]、VGG[2]、GoogleNet[3]、ResNet[4]和SENet[5]在内的许多经典模型。然而，CNN前所未有的准确性能的背后，网络模型的层数逐渐变得更深更宽，更深更宽的层数带来了更高的计算成本和大量的参数，这使得在资源受限的情况下部署CNN变得非常困难。

为了更好地权衡速度与精度，出现了专门为移动设备和资源受限的环境而设计的紧凑型卷积神经网络，如MobileNets[6-8]、ShuffleNets[9-10]，使用深度可分离卷积的方式，在尽可能保持模型性能的情况下大大降低了计算成本。此外，人们发现在CNN中引入注意力机制可以在参数量增加不大的情况下明显地提高网络性能。

然而，对于深层CNN而言，现有包括SENet、CBAM[11]、SKNet[12]、GENet[13]在内的大多数注意力机制带来的计算和参数开销相对较小，但对于紧凑型CNN而言，这种性能的提高所带来的计算和参数开销代价是难以忍受的。

本文继承ULSAM[14]中使用子空间注意机制来提高紧凑型CNN效率的尝试，改进特征子空间的空间校准方式，在特征子空间引入注意连接[15]，实现了前后特征子空间的信息流动，相比ULSAM，DCSAM可以更好地学习各个子空间的不同注意映射，实现了多尺度、多频率的特征学习，在细粒度图像分类上取得了比ULSAM更优秀的表现，在ImageNet数据集上也实现了更好的性能。

本文的工作主要体现在以下2个方面：