兰凌强，李欣，刘淇缘，卢树华

（中国人民公安大学 警务信息工程与网络安全学院，北京 102600）

人类表达情感的方式多种多样，但是最为直观的即是人脸的面部表情。在人与人的日常交流中，人们可以通过他人的表情，判断其心理状态，加深相互间的理解，故人脸表情识别一直受到学者的较多关注。此外，自动人脸表情识别在智能控制、安全防范、辅助医疗、自动驾驶和商业推广等人机交互领域得到了广泛的应用，成为计算机视觉领域较为活跃的研究课题。近年来，随着计算能力的不断提升以及神经网络的兴起，深度学习技术广泛应用于人脸表情识别研究，取得了显著的进展，特别是各种卷积神经网络的应用，大大提高了识别的准确率［1-3］。文献［1-3］都引入了卷积神经网络用于提取更加有效的特征，相对于传统方法［4］如LBP（Local Binary Pattern）［5］提取底层特征送入SVM（Support Vector Machine）进行分类来说，准确率有大幅度的提升。然而深度学习模型的训练需要大量的数据样本和较高的算力，使得自动人脸表情识别的准确率和实时性仍需进一步提高，因此研究加速模型训练和提高模型性能的方法成为学者关注的热点之一。

目前，大多神经网络架构在训练和测试时使用了批量正则化（Batch Normalization，BN）［6］、实例正则化（Instance Normalization，IN）［7］和组正则化（Group Normalization，GN）［8］或过滤器响应正则化（Filter Response Normalization，FRN）［9］等方法，实践表明这些方法可以加速模型训练，防止过拟合和提高模型性能。但是不同的方法仍面临一定的局限性，例如，BN方法对于batch size数值较为敏感，在其数……