孟翔，殷海兵，黄晓峰

（杭州电子科技大学通信工程学院，浙江 杭州 310018）

1 引言

随着各种对高清视频的需求，JCT-VC 提出了新一代高效视频编码（HEVC）标准[1]，其采用高级编码工具，包括基于四叉树的编码单元（coding unit，CU）、变换单元（transform unit，TU）以及预测单元（prediction unit，PU）。与H.264[2]相比，在相同图像质量情况下，HEVC 可以节省高达50%的比特率。

CU/PU/TU 的组合方案可以大大提高编码效率，但是基于率失真优化（rate distortion optimization，RDO）[3]的模式决策都需要为大量候选模式进行RDO 成本计算，其中涉及前向变换、量化、逆量化、逆变换和熵编码，这会造成极大的计算复杂度，阻碍了有效并行技术，导致硬件实现效率降低。

一些学者针对如何减少码率和失真的计算复杂度问题展开研究，Zhao 等[4]提出广义高斯分布模型来估计码率，使用在量化中丢掉的比特来估计失真；Tu 等[5]和Wang 等[6]采用量化系数之和与其对应系数坐标来估计码率；Liu等[7]提出一种基于二元分类的线性模型来估计码率。Sun 等[8]尝试简化RDO 过程，使用变换系数来估计码率和失真，Chen 等[9]和Sharabayko等[10]采用信息熵来估计码率。考虑到硬件资源，一些学者提出了有利于硬件实现的快速RDO 算法[11-14]，虽然节省了大量的硬件资源，但是算法过于简单造成了严重的性能损失。现有工作并未充分探索熵编码特性，这会导致压缩质量显著下降[15]。

本文的主要贡献如下：对每个语法元素进行码率分析，并根据结果建立码率模型；提出一种加权量化系数，能够较好地反映码率信息；采用建模的方式估计头信息码率；从变换域建模估计失真，避免多余的重构过程；……