[發明專利]一種針對H.266/VVC幀內預測編碼的快速模式選擇方法

在審

• 申請號: 202110240568.0
• 申請日: 2021-03-04
• 公開（公告）號: CN113099223A
• 公開（公告）日: 2021-07-09
• 發明（設計）人: 曾煥強;李鴻輝;陳婧;林曉丹;溫廷羲;邱應強
• 申請（專利權）人: 華僑大學
• 主分類號: H04N19/11
• 分類號: H04N19/11;H04N19/14
• 代理公司: 廈門市首創君合專利事務所有限公司 35204
• 代理人: 張松亭;林燕玲

一種針對H.266/VVC幀內預測編碼的快速模式選擇方法，包括如下步驟：1)根據結構張量對當前編碼CU的紋理復雜度進行判別，若為平坦區域，則進入步驟2)，否則進入步驟3)；2)第一輪SATD模式粗選只對DC模式、Planar模式和垂直模式進行代價計算，并跳過第二輪SATD模式粗選的擴展角度模式選擇；3)根據結構張量的奇異值分解獲取主方向特征向量，并依據主方向特征向量進行模式區域的選擇，跳過非必要模式代價計算。本發明能夠在保持H.266/VVC編碼效率的前提下，有效地降低H.266/VVC幀內預測編碼計算復雜度。

技術領域

本發明涉及視頻編碼領域，特別是指一種針對H.266/VVC幀內預測編碼的快速模式選擇方法。

背景技術

隨著多媒體通信技術和各種視頻終端處理能力的快速發展，4K/8K等超高清視頻逐步在生活中普及。視頻數據量激增對編碼技術提出了更高的要求?？紤]到上一代視頻編碼標準H.265/HEVC不能滿足超高清視頻壓縮性能要求，運動圖像專家組(MPEG)和視頻編碼專家組(VCEG)成立了JVET，制定了新一代視頻編碼標準H.266/VVC。

相比于H.265/HEVC，H.266/VVC取得較高的編碼效率。關于幀內編碼，H.266/VVC傳統幀內預測模式從35種增加到67種，預測方法變成兩輪SATD粗選，第一輪的SATD粗選從傳統的35種模式中進行代價計算，并加入候選列表。第二輪的SATD粗選首先對第一輪的SATD粗選出的模式進行相鄰模式的代價計算，即擴展角度模式代價計算，并更新候選列表。然后依次對MRL中的擴展行模式，MIP的模式進行代價計算和篩選，將最優模式加入候選列表。遍歷MPM列表中的前幾種可能模式，判斷是否在候選列表中，如果沒在，則加入候選列表。最后判斷是否進行ISP模式，如果進行ISP模式，則創立一個新的RD候選列表，其中包含傳統的幀內預測模式，MRL模式以及ISP的幀內預測模式。

兩輪的SATD粗選比H.265/HEVC能提供更準確的預測，提高編碼性能，但同時增加巨額計算復雜度。因此，如何在保持H.266/VVC編碼性能前提下，有效降低編碼復雜度，成為H.266/VVC迫切需要解決的問題。

發明內容

本發明的主要目的在于H.266/VVC幀內預測編碼復雜度高的問題，提出一種針對H.266/VVC幀內預測編碼的快速模式選擇方法，根據編碼CU內容特性準確地篩選減少預測模式，實現在保證編碼效率幾乎不變的情況下有效降低了編碼器計算復雜度。

本發明采用如下技術方案：

一種針對H.266/VVC幀內預測編碼的快速模式選擇方法，其特征在于，包括如下步驟：

1)根據結構張量對當前編碼CU的紋理復雜度進行判別，若為平坦區域，則進入步驟2)，否則進入步驟3)；

2)第一輪SATD模式粗選只對DC模式、Planar模式和垂直模式進行代價計算，并跳過第二輪SATD模式粗選的擴展角度模式選擇；

3)根據結構張量的奇異值分解獲取主方向特征向量，并依據主方向特征向量進行模式區域的選擇，跳過非必要模式代價計算。

優選的，步驟1)中，對當前編碼CU計算結構張量矩陣ST和ST的跡H；將結構張量矩陣ST的跡H與預設的閾值T_ST進行比較，并統計滿足條件的像素塊比例B_D，將像素塊比例B_D與預設的閾值T_D進行比較判斷當前編碼CU塊是否為平坦區域。

優選的，步驟1)中，所述的結構張量矩陣ST按下式計算：

G_xy＝G_x×G_y

其中表示當前編碼單元CU的第i行第j列的水平梯度值，表示當前編碼單元CU的第i行第j列的垂直梯度值。