[發明專利]視頻標準中基于自回歸模型的幀內預測快速模式選擇方法

有效

• 申請號: 201410182758.1
• 申請日: 2014-04-30
• 公開（公告）號: CN103929652B
• 公開（公告）日: 2017-04-19
• 發明（設計）人: 李甫;焦丹丹;石光明;宋曉丹;樊春曉;牛毅
• 申請（專利權）人: 西安電子科技大學
• 主分類號: H04N19/61
• 分類號: H04N19/61;H04N19/13;H04N19/122;H04N19/567
• 代理公司: 陜西電子工業專利中心61205
• 代理人: 王品華,朱紅星

1.一種視頻標準中基于自回歸模型的幀內預測快速模式選擇方法，包括如下步驟：

(1)將待處理視頻的幀內圖像劃分成編碼單元，并對編碼單元按照幀內劃分方式劃分為大小為4×4、8×8、16×16、32×32和64×64的若干塊，選取其中一塊作為預測單元PU；

(2)對預測單元PU先進行粗略模式選擇RMD過程，再根據哈德瑪代價SATD代價函數選出前m種預測模式作為候選模式，記為候選集合M，并把該m種預測模式的SATD代價函數值記為存入數組S1；

(3)利用H.265/HEVC標準中給定的最有可能模式MPM算法對預測單元PU進行預測，得到最有可能模式MPM；

(4)判斷步驟(3)得到最有可能模式MPM是否包含在候選集合M中，如果包含在候選集合M中，則執行步驟(6)，反之，則執行步驟(5)；

(5)將最有可能模式MPM加入到候選集合M中，并將最有可能模式MPM對應的SATD代價函數值SatdCost加入到數組S1，然后對數組S1中元素進行從小到大排序，再依據數組S1中元素的順序更新相應的候選模式在候選集合M中的位置，并將候選集合M中的候選模式記為P₁～P_m1，并把對應的SATD代價函數值記為

(6)根據該代價函數值用基于自回歸模型的自適應模式選擇模型對候選集合M中的候選模式P₁～P_m1進行篩選，選出前n種候選模式作為最終候選模式集合N：

(6a)根據所選預測單元PU的尺寸，選擇預測單元PU門限值的計算公式：

對于選取尺寸為4×4的預測單元PU，則執行步驟(6b)，

對于選取尺寸為8×8的預測單元PU，則執行步驟(6c)，

對于選取尺寸為16×16的預測單元PU，則執行步驟(6d)，

對于選取尺寸為32×32的預測單元PU，則執行步驟(6e)，

對于選取尺寸為64×64的預測單元PU，則執行步驟(6f)；

(6b)根據H.265/HEVC標準，通過基于自回歸模型的公式，計算所選預測單元PU的門限值

${\∂}_N=({\∂}_{al}+2\×{\∂}_{l_1}+2\×{\∂}_{a_1})/5,$

其中，是與所選預測單元PU相鄰且位于所選預測單元PU左上方的基本單元門限值，是與所選預測單元PU相鄰且位于所選預測單元PU左側的基本單元門限值，是與所選預測單元PU相鄰且位于所選預測單元PU上方的基本單元門限值；

(6c)根據H.265/HEVC標準，通過基于自回歸模型的公式，計算所選預測單元PU的門限值

${\∂}_N=({\∂}_{al}+2\×({\∂}_{l_1}+{\∂}_{l_2})+2\×({\∂}_{a_1}+{\∂}_{a_2}\left)\right)/9,$

其中，是與所選預測單元PU相鄰且位于所選預測單元PU左上方的基本單元門限值，是與所選預測單元PU相鄰且位于下方從上而下依次排列的兩個基本單元門限值；是與所選預測單元PU相鄰且位于右方從左至右依次排列的兩個基本單元門限值；

(6d)根據H.265/HEVC標準，通過基于自回歸模型的公式，計算所選預測單元PU的門限值

${\∂}_N=({\∂}_{al}+2\×({\∂}_{l_1}+{\∂}_{l_2}+{\∂}_{l_3}+{\∂}_{l_4})+2\×({\∂}_{a_1}+{\∂}_{a_2}+{\∂}_{a_3}+{\∂}_{a_4}\left)\right)/17,$

其中，是與所選預測單元PU相鄰且位于所選預測單元PU左上方的基本單元門限值，是與所選預測單元PU相鄰且位于下方從上而下依次排列的四個基本單元門限值；是與所選預測單元PU相鄰且位于右方從左至右依次排列的四個基本單元門限值；

(6e)根據H.265/HEVC標準，用基于自回歸模型的公式，計算所選預測單元PU的門限值

$\begin{array}{c}{\∂}_N=({\∂}_{al}+2\×({\∂}_{l_1}+{\∂}_{l_2}+{\∂}_{l_3}+{\∂}_{l_4}+{\∂}_{l_5}+{\∂}_{l_6}+{\∂}_{l_7}+{\∂}_{l_8})\\ +2\×({\∂}_{a_1}+{\∂}_{a_2}+{\∂}_{a_3}+{\∂}_{a_4}+{\∂}_{a_5}+{\∂}_{a_6}+{\∂}_{a_7}+{\∂}_{a_8}))/33\end{array},$

其中，是與所選預測單元PU相鄰且位于所選預測單元PU左上方的基本單元門限值，是與所選預測單元PU相鄰且位于下方從上而下依次排列的八個基本單元門限值；是與所選預測單元PU相鄰且位于右方從左至右依次排列的八個基本單元門限值；

(6f)根據H.265/HEVC標準，用基于自回歸模型的公式，計算所選預測單元PU的門限值

$\begin{array}{c}{\∂}_N=({\∂}_{al}+2\×({\∂}_{l_1}+{\∂}_{l_2}+{\∂}_{l_3}+{\∂}_{l_4}+{\∂}_{l_5}+{\∂}_{l_6}+{\∂}_{l_7}+{\∂}_{l_8}\\ +{\∂}_{l_9}+{\∂}_{l{`}_{10}}+{\∂}_{l_{11}}+{\∂}_{l_{12}}+{\∂}_{l_{13}}+{\∂}_{l_{14}}+{\∂}_{l_{15}}+{\∂}_{l_{16}})\\ +2\×({\∂}_{a_1}+{\∂}_{a_2}+{\∂}_{a_3}+{\∂}_{a_4}+{\∂}_{a_5}+{\∂}_{a_6}+{\∂}_{a_7}+{\∂}_{a_8}\\ +{\∂}_{a_9}+{\∂}_{a_{10}}+{\∂}_{a_{11}}+{\∂}_{a_{12}}+{\∂}_{a_{13}}+{\∂}_{a_{14}}+{\∂}_{a_{15}}+{\∂}_{a_{16}}\left)\right)/65\end{array},$

其中，是與所選預測單元PU相鄰且位于所選預測單元PU左上方的基本單元門限值，是與所選預測單元PU相鄰且位于下方從上而下依次排列的十六個基本單元門限值；是與所選預測單元PU相鄰且位于右方從左至右依次排列的十六個基本單元門限值；

(6g)把SatdCost_p1對應的預測模式P₁作為最終候選模式集合N的初始值，此時N＝{P₁}，初始化候選模式索引n＝1；

(6h)計算數組S1中的相鄰兩個元素的差和兩者平均值的比值，如果所得比值與門限的關系滿足

${\mathrm{SatdCost}}_{p_{n+1}}-{\mathrm{SatdCost}}_{p_n}\≤{\∂}_N({\mathrm{SatdCost}}_{p_{n+1}}+{\mathrm{SatdCost}}_{p_n})/2,$

則候選模式索引n增加1，繼續執行步驟(6h)，反之則結束，輸出候選模式索引n；

(6i)由候選模式索引n的候選模式為P₁～P_n，得到最終候選預測模式集合N＝{P₁，P₂，···，P_n}；

(7)對預測單元PU，依次用步驟(6)得到的最終候選模式集合N中的n種候選模式進行率失真優化RDO過程，選取最小RDO代價函數值對應的候選模式作為最優預測模式；

(8)對編碼單元的其他預測單元重復步驟(2)～步驟(8)，完成待處理視頻的幀內圖像的幀內預測模式選擇。