[發明專利]用于HEVC的幀間編碼單元劃分方法、裝置和存儲介質

在審

• 申請號: 201811595231.6
• 申請日: 2018-12-25
• 公開（公告）號: CN109788296A
• 公開（公告）日: 2019-05-21
• 發明（設計）人: 梁凡;韓海陽
• 申請（專利權）人: 中山大學
• 主分類號: H04N19/503
• 分類號: H04N19/503;H04N19/119;H04N19/186;H04N19/96;G06N3/04;G06N3/08
• 代理公司: 廣州嘉權專利商標事務所有限公司 44205
• 代理人: 胡輝

本發明公開了用于HEVC的幀間編碼單元劃分方法、裝置和存儲介質，所述方法包括將編碼樹單元輸入到經過訓練的卷積神經網絡中進行處理，獲取卷積神經網絡輸出的編碼單元劃分概率和根據所述編碼單元劃分概率執行相應的劃分處理等步驟，其中劃分處理包括從編碼樹單元劃分出編碼單元、不進行劃分和根據率失真優化過程的結果選擇從編碼樹單元劃分出具有相應大小的編碼單元或不進行劃分。本發明以編碼單元劃分概率來表示進行編碼單元劃分或者執行率失真優化過程的必要性，可以避免每次都要執行率失真優化過程，使得HEVC在保證編碼效率的基礎上提高編碼速度，HEVC的視頻編碼能力更強。本發明廣泛應用于視頻處理技術領域。

技術領域

本發明涉及視頻處理技術領域，尤其是用于HEVC的幀間編碼單元劃分方法、裝置和存儲介質。

背景技術

術語解釋：

高效視頻編碼標準(HEVC，High Efficiency Video Coding)：是一種在2013年發布的視頻編碼技術，它是在H.264標準的基礎上為了滿足數字視頻產業對高清和超高清視頻存儲及傳輸的日益迫切的發展需求而開發的新一代視頻編碼標準。HEVC在混合編碼框架的基礎上，結合大量技術創新，在保證相同視頻質量的情況下，相比H.264節省近50％的碼流。

編碼樹單元(CTU，Coding Tree Unit)、編碼單元(CU，Coding Unit)、預測單元(PU，Prediction Unit)：CTU、CU和PU均為HEVC中的數據結構。

率失真優化(RDO，Rate Distortion Optimization)：是HEVC中的數據處理過程。

HEVC編碼層的核心是編碼樹單元，概念上類似于H.264/AVC中的宏塊，由亮度編碼樹塊(CTB)、相應的色度編碼樹塊和語法元素組成。如圖1和圖2所示，一個編碼樹單元可以不進行劃分(標記為0)或被分成多個編碼單元(標記為1)，編碼單元的大小為8×8，16×16，32×32或64×64。然而，為了找到最優的編碼樹單元劃分結構，HEVC采用了率失真優化方法。率失真優化方法是一種窮舉搜索方法，一個編碼樹單元會遍歷85種編碼單元劃分方式，但是最終只會選擇其中的最佳劃分作為最終劃分的結果。率失真優化方法在極大地提高編碼效率的同時，給編碼器帶來了很大的計算復雜度。

現有技術的缺點在于，每次進行編碼單元劃分時都需要執行率失真優化過程，但其中一些不必要的率失真優化過程雖然提高了編碼效率，但同時帶來了很大的計算復雜度，造成總體的效率不高。

發明內容

為了解決上述技術問題，本發明的目在于提供用于HEVC的幀間編碼單元劃分方法、裝置和存儲介質。

一方面，本發明包括一種用于HEVC的幀間編碼單元劃分方法，包括以下步驟：

將編碼樹單元輸入到經過訓練的卷積神經網絡中進行處理；

獲取卷積神經網絡輸出的編碼單元劃分概率；

根據所述編碼單元劃分概率執行相應的劃分處理；所述劃分處理為以下其中一種：從編碼樹單元劃分出具有相應大小的編碼單元；不進行劃分；執行率失真優化過程，根據率失真優化過程的結果，選擇從編碼樹單元劃分出具有相應大小的編碼單元或不進行劃分。

進一步地，所述卷積神經網絡包括：

輸入層，用于接收編碼樹單元的亮度分量的殘差信息；

預處理層，用于對所述殘差信息進行標準化；

下采樣層，用于對劃分出的不同大小的編碼單元進行尺寸統一；

卷積層組，所述卷積層組包括多個依次相連的卷積層，所述卷積層組用于將經過標準化的殘差信息映射到隱層特征空間，從而進行特征提取；