李如春，林宇俊，施朝霞

(浙江工业大学 信息与工程学院，浙江 杭州 310023)

基于全局和局部残差复杂度的帧间模式选择

李如春，林宇俊，施朝霞

(浙江工业大学 信息与工程学院，浙江 杭州 310023)

摘要：针对H.264/AVC传统帧间模式选择算法的高复杂度，提出了一种适合各种视频分辨率格式的快速帧间模式选择算法.该算法基于全局残差复杂度(General residual complexity，GRC)和局部残差复杂度(Local residual complexity，LRC)，通过GRC与QP来近似计算一个阈值，然后通过对局部残差复杂度跟该阈值比较来决定宏块的活跃度，再根据宏块的活跃度选出候选的帧间模式，由此进行率失真优化(Rate-distortion Optimization，RDO)计算，从而减少了不必要帧间模式的RDO计算，取得了较高的编码效率.实验结果表明，与JM18.4默认的帧间模式选择算法相比，该算法在峰值信噪比和码率基本不变的前提下，可以平均减少大约60%的帧间编码时间。

关键词：帧间模式选择；全局残差复杂度；局部残差复杂度；宏块活跃度

Inter-mode selection based on general and local residual complexity

LI Ruchun, LIN Yujun, SHI Zhaoxia

(College of Information Engineering, Zhejiang University of Technology, Hangzhou 310023, China)

Abstract:Considering the high complexity of traditional H.264/AVC inter-mode selection algorithm, this paper proposes a fast inter-mode selection algorithm for different video resolution. This algorithm is based on general residual complexity(GRC)and local residual complexity(LRC).The threshold is calculated approximately by GRC and QP and the LRC is compared with this threshold to determine the macro block activity. Then the candidate inter modes are selected according to the macro block activity and the rate distortion optimization (RDO) is calculated. It can reduce unnecessary RDO calculation in inter-mode and enhances a higher coding efficiency. Experimental results show that comparing with JM18.4 default inter-mode selection algorithm, this algorithm can reduce of 60% of its inter-frame coding time on average with the invariable peak signal noise ratio and coding rate。

Keywords:inter-mode selection; general residuals complexity; local residuals complexity; macro block activity

H.264/AVC标准[1]在选出各个宏块最优帧间模式之前，需要遍历每个宏块所有的帧间模式，对每个模式都采用率失真优化策略[2]进行计算，然后取具有最小率失真代价值(RDOcost)的帧间模式作为最佳帧间预测模式.因此，一个宏块的每种帧间模式都需要分别进行运动估计[3].对每个帧间候选模式都进行RDO代价计算，然后选择RDO代价最小的模式作为最优帧间编码模式，这种方法虽然精度最高，但同时复杂度极高，开销巨大，有待优化.传统的快速帧间模式选择算法，实现方式大致分为阈值法和预测法两大类.但要得到自适应的阈值往往需要对已编码码流进行一系列复杂分析，这在很大程度上增加了编码负荷；……