宋婷婷，徐世许

（青岛大学自动化与电气工程学院，山东 青岛 266071）

0 引言

近年来，随着计算能力的提升和卷积神经网络的发展，卷积神经网络在图像分类任务中的表现逐年变强，相比全连接神经网络[1-4]的性能提升了很多。自2012年，AlexNet[5]获得ILSVRC（ImageNet Large Scale Visual Recognition Challenge）图像分类项目冠军之后，2014年亚军、2014年冠军和 2015年冠军也分别被卷积神经网络 VGGNet[6]、Google InceptionNet[7]和ResNet[8]获得。在卷积神经网络中，池化层对分类性能有重要影响。根据 Springenberg等[9]的分析，池化层的作用相当于卷积层中的激活函数，只是用p范数替代了激活函数。池化层通过减小输入尺寸来减少后一层的参数量和计算量。在最大池化层中，每个池化窗口中最大值被认为是对分类“最有用”的信息而得以保留，其余信息被丢弃。而实际上，被丢弃的信息也可能对分类任务来说是有用的。针对最大池化的这一问题，本文提出全采样方法和基于 L1范数的降采样方法替代最大池化层，在CIFAR-10和MNIST数据集上的实验结果表明，在网络结构相同、参数不增加的情况下，所提方法的分类准确率高于最大池化方法。

1 全采样和基于L1范数的降采样

1.1 全采样

全采样包括重新组织输入信息和使用 1×1卷积恢复通道数两步。以尺寸为4×4、通道数为L的输入为例，介绍全采样是如何重新组织输入的。如图1所示，输入包括16个尺寸为1×1、通道数为L的张量（多维数组），并且进行了编号。一个尺寸为2×2，步长为2的窗口遍历输入，窗口中的四个张量被抽取出来，然后滑动窗口，重复上述操作，直至遍历结束。……