[發明專利]HEVC中B幀的基于SKIP/MergeRDCost的CU提前終止方法

有效

• 申請號: 201410582598.X
• 申請日: 2014-10-27
• 公開（公告）號: CN104333755B
• 公開（公告）日: 2017-11-14
• 發明（設計）人: 王嘉;沈靜;張小云;高志勇
• 申請（專利權）人: 上海交通大學
• 主分類號: H04N19/109
• 分類號: H04N19/109;H04N19/147
• 代理公司: 上海漢聲知識產權代理有限公司31236
• 代理人: 徐紅銀,郭國中

1.一種HEVC中B幀的基于SKIP/Merge RD Cost的CU提前終止方法，其特征在于：包括如下步驟：

步驟1：如果當前CU是每幀的第一個LCU，那么初始化各閾值；

步驟2：計算該CU的SKIP/Merge的RD Cost；

步驟3：如果該CU的SKIP/Merge的RD Cost小于第一閾值，直接跳到步驟9；

步驟4：如果該CU的深度(depth)為0，且SKIP/Merge的RD Cost小于第二閾值時，跳過該CU中深度為2和3的CU劃分，跳到步驟7；

步驟4中：所述第二閾值被記為threshold_depth_0_50，表示該閾值用在當CU的深度為0時的情況，采用的是深度為0的CU的SKIP/Merge的RD Cost的50百分位，threshold_depth_0_50的初始值為：

threshold_depth_0_50＝7.0337e^0.01124*QP

QP為HEVC中規定的量化參數；

步驟5：如果該CU的深度為0，且SKIP/Merge的RD Cost小于第三閾值時，跳過該CU中深度為3的CU劃分，跳到步驟7；

步驟5中：所述第三閾值采用threshold_depth_0_70，表示該閾值用在當CU的深度為0時的情況，是利用70百分位跳過深度為3的CU搜索，threshold_depth_0_70的初始值為：

threshold_depth_0_70＝5.2503e^0.1323*QP

QP為HEVC中規定的量化參數；

步驟6：如果該CU的深度為1，且SKIP/Merge的RD Cost小于第四閾值時，跳過該CU中深度為3的CU劃分；

步驟6中：所述第四閾值記為threshold_depth_1_50，該閾值的初始值為:

threshold_depth_1_50＝8.6663e^0.1084*QP

QP為HEVC中規定的量化參數；

步驟7：進行該CU當前的深度下的剩下的模式判決，選出該深度下的最優模式；

步驟8：根據步驟4、5、6來判斷是否進行向下劃分，若需要則針對向下劃分后得到的每個小CU跳至步驟1，否則跳至步驟9；

步驟8中：在步驟7完成之后，當前深度的最優模式已經得到，這時需要向下劃分得到向下劃分的最優模式，兩者進行比較從而得到該深度下的最優劃分，這里為每個LCU的每個深度設置了標志符is_search[i],i＝0,1,2,3，這里的i代表不同的深度；當每個LCU的搜索開始時is_search[i]均被初始化為true，當滿足步驟4、步驟5或步驟6的條件時，才將對應的標志符設為false；在該步驟中通過判斷標志符來決定是否要向下劃分：若標志符為true，則該CU需要向下劃分；若為false，則不要；

步驟9：更新相應的閾值；

步驟9中：閾值更新為:

這里的threshold為上述各對應步驟中提到的閾值，λ取7。

2.根據權利要求1所述的HEVC中B幀的基于SKIP/Merge RD Cost的CU提前終止方法，其特征在于：步驟1中：通過判斷CU的橫軸與縱軸的坐標來判斷該CU是否為每幀的第一個CU，如果滿足條件，則為該幀初始化第一、二、三和第四閾值。

3.根據權利要求1所述的HEVC中B幀的基于SKIP/Merge RD Cost的CU提前終止方法，其特征在于：步驟3中：為每一層CU的SKIP/Merge提前跳出均設置了相應的閾值，這是由每層CU有不同的特性決定的。

4.根據權利要求1所述的HEVC中B幀的基于SKIP/Merge RD Cost的CU提前終止方法，其特征在于：步驟3中：所述第一閾值是threshold_skip[i],i＝0,1,2,3,此處的i代表的是不同CU的深度，threshold_skip[i]的初始值為：

threshold_skip[i]＝21.179e^0.053*QP

QP為HEVC中規定的量化參數，如果該CU的SKIP/Merge的RD Cost小于threshold_skip[i]，那么認為SKIP/Merge已經是該CU的最優模式，所以該CU的剩余模式沒有必要計算，直接跳至步驟9更新相應的閾值。

5.根據權利要求1所述的HEVC中B幀的基于SKIP/Merge RD Cost的CU提前終止方法，其特征在于：步驟7中：如果沒有滿足步驟3的條件，那么就要進行該CU當前深度下的剩下模式判決，即包括Inter 2Nx2N,Inter Nx2N,Inter 2NxN,Inter 2NxnU,Inter 2NxnD,Inter nLx2N,Inter nRx2N,Inter NxN,Intra 2Nx2N和Inter NxN，分別計算各個模式的RD Cost，選出其中RD Cost最小的模式，這個RD Cost將與該CU向下劃分后進行模式判決得到的RD Cost進行比較，從而得到該CU的最優劃分。