赵海萌

前言

图像压缩自编码器CAE，亦即编码器E及解码器D，其训练过程可以转化为一个优化问题，即对图像失真率及图像编码比特数的最小化。有损图像压缩面临着失真率及压缩率的权衡问题，因此可以将上述优化问题表述为：

minE，Dd+βR

其中d表示重构图像与原图像之间的差距，R表示图像编码比特数，而β>0则控制上述两个因素之间的平衡。解决这个优化问题的过程中会遇到许多困难，其中最为重要的一个是如何表征图像编码比特数R。因此，本项目针对R的优化，提出利用ADMM（AlternatingDirectionMethodofMultipliers）算法对CAE的表示层进行剪枝，即直接减小R，避开了额外训练信息熵估计器的麻烦，并遵循训练、剪枝、重训练的顺序，迭代地对CAE进行训练（优化d）和剪枝（优化R），直至达到目标要求。

本文提出了CAE-P（CompressiveAutoEncoderwithPruning）模型，相较于现有的CAE模型，CAE-P模型显得更为简单直接，更易实现且参数量更小。实验中，CAE-P模型在MS-SSIM（Multi-scaleStructuralSimilarityIndex）、SSIM等指标下均超越了现有的图像压缩算法。

CAE-P模型

一个基本的图像压缩自编码器CAE由3部分组成：编码器E、解码器D和量化器Q。图1为CAE-P的详细模型架构，“Convk/spP”表示卷积核大小为k×k、步长为s，并采用大小为P的镜像Padding的卷积层，“ConvDown”表示将宽和高减半的卷积层。

在对编码器E、解码器D、量化器Q进行选择及构造，并解决优化问题后，我们便得到了基于ADMM剪枝的图像压缩自编码器CAE-P，它的基本结构及运作方式如图2所示。

原始图像x经过由卷积残差块构成的编码器E编码，转化为一组潜在表示形式z。在ADMM训练阶段，黑色和绿色通路激活，特征图z经量化器Q量化后得到，输入同样由卷积残差块构成的解码器D，解码器D从中重构出图像，ADMM算法迭代地最小化重构失真率d（x，），并对z剪枝，迫使其稀疏化。……