杨栩，郭红伟，李婉雪

优化编码树单元级比特分配算法

杨栩1，2*，郭红伟3，4，李婉雪1

（1.成都师范学院 物理与工程技术学院，成都 611130； 2.重庆邮电大学 通信与信息工程学院，重庆 400065； 3.红河学院 工学院，云南 蒙自 661199； 4.电子科技大学 信息与通信工程学院，成都 611731）（ ∗ 通信作者电子邮箱yangxu@cdnu.edu.cn）

新一代视频编码标准H.266/VVC（Versatile Video Coding）的码率控制算法采用编码参数相互独立的率失真优化技术。然而，同一帧内的编码树单元（CTU）间在空域上相互影响，且存在全局编码参数；同时，CTU级比特分配公式采用近似的编码参数分配比特，进而降低了码率控制精度和编码性能。针对上述问题，提出空域全局优化CTU级比特分配算法RTE_RC（Rate Control with Recursive Taylor Expansion），并通过递归算法逼近全局编码参数。首先，建立空域全局优化比特分配模型；其次，应用递归算法求解CTU级比特分配模型中的全局拉格朗日乘子；最后，优化编码单元的比特分配并对编码单位进行编码。实验结果表明，在低延时P（Prediction）帧（LDP）配置下，与码率控制算法VTM_RC相比，所提算法的码率控制误差由0.46%下降至0.02%，码率节省了2.48个百分点，编码时间下降了3.52%，显著提升了码率控制精度和率失真性能。

比特分配；全局拉格朗日乘子；码率控制；递归泰勒展开；VVC

0 引言

通信技术的发展使视频数据在互联网中大规模传输变为可能，移动互联网技术的普及使视频数据传输的需求量也越来越大，有限的带宽难以满足海量增长的视频数据传输需求，视频数据压缩变得越发重要，视频编解码也成了学术界和工业界研究的重点。……