徐 宁，殷海兵，郭龙盛

(中国计量学院信息工程学院，浙江杭州310018)

视频编码标准H.264/AVC的测试模型采用基于拉普拉斯分布的二次R-Q模型。编码过程中，通过码率控制分配编码比特，获得量化参数QP，并且获得率失真参数λ进行率失真优化，而QP和λ是影响视频编码效率的关键因素。视频实时传输，缓冲区十分有限，帧级码流控制不能精确控制，宏块级码流控制更为精细［1］，而进行运动估计、模式选择需要用到率失真参数λ。因此，R-Q模型宏块级应用尤为重要。

实验证明，DCT系数统计概率分布符合一定的概率密度函数，据此建立R-Q模型。早期，学者们认为DCT系数中的AC系数符合高斯分布。后来，学者相继提出拉普拉斯分布、广义高斯分布和柯西分布，其中拉普拉斯分布应用广泛［2］。运用以上这些分布进而推导相应的R-Q模型。

关于R-Q模型的研究很多，文献［1-2］基于柯西分布提出R-Q模型;文献［3］提出一种基于拉普拉斯分布的R-Q模型;文献［4］和文献［5］分别对文献［3］中的R-Q模型进行改进、优化。文献［6］基于文献［2］提出一种新的R-Q模型;文献［7］提出一种基于广义高斯分布的R-Q模型。文献［8］根据码率与零值在变换系数量化后所占百分比之间的关系，提出一种新的模型。本文主要对4种主流R-Q模型宏块级精准度和复杂度进行分析。

1 4种R-Q模型的推导

1.1 基于拉普拉斯分布的R-Q模型

运用拉普拉斯分布概率密度函数推导出率失真函数R(D)，对其进行泰勒级数展开、简化得到［3］

式(2)为式(1)的应用

文献［4］对式(2)进行改进、简化，得

式中，参数p与编码帧类型有关。……