[發明專利]視頻編碼方法及編碼樹單元劃分方法、系統、設備及可讀存儲介質

在審

• 申請號: 202010627907.6
• 申請日: 2020-07-02
• 公開（公告）號: CN111757110A
• 公開（公告）日: 2020-10-09
• 發明（設計）人: 姜光心;陳小磊;李帥廠;劉俊
• 申請（專利權）人: 中實燃氣發展(西安)有限公司
• 主分類號: H04N19/122
• 分類號: H04N19/122;H04N19/96;G06N3/04;G06N3/08;G06T9/00
• 代理公司: 西安通大專利代理有限責任公司 61200
• 代理人: 朱海臨

1.一種編碼樹單元劃分方法，其特征在于，包括以下步驟：

S1：獲取已確定劃分情況的若干編碼單元，并將其分為訓練集和測試集；

S2：建立深度卷積神經網絡，通過訓練集訓練深度卷積神經網絡，并通過測試集測試深度卷積神經網絡，得到深度卷積神經網絡預測模型；

S3：獲取待編碼視頻的所有編碼樹單元；

S4：針對每個編碼樹單元，獲取編碼樹單元內的編碼單元，對編碼單元通過深度卷積神經網絡預測模型預測劃分情況；

S5：當預測的劃分情況為劃分時，對編碼單元進行劃分；

S6：當劃分得到的編碼單元大于預設最小編碼單元尺寸時，對劃分得到的編碼單元通過深度卷積神經網絡預測模型預測劃分情況；

S7：重復S5和S6至編碼樹單元內部所有的編碼單元均完成預測，根據每個編碼樹單元內部所有的編碼單元的預測結果，得到每個編碼樹單元的劃分結果。

2.根據權利要求1所述的編碼樹單元劃分方法，其特征在于，所述S1的具體方法為：

采集現有HEVC視頻編碼過程中已確定劃分情況的若干編碼單元，將若干編碼單元均設置對應的劃分情況標簽，其中，劃分情況標簽包括劃分和不劃分，然后將若干編碼單元中80％的編碼單元進行集合得到訓練集，將若干編碼單元中其余的編碼單元進行集合得到測試集。

3.根據權利要求1所述的編碼樹單元劃分方法，其特征在于，所述S2中深度卷積神經網絡的具體結構為：

深度卷積神經網絡包括依次連接的輸入層、第一卷積層、第一池化層、第二卷積層、第二池化層、第三卷積層、第四卷積層、連接層、第三池化層、全連接層以及輸出層；第一卷積層和第二卷積層均設定為64個卷積核，卷積核大小均為5×5；第一池化層、第二池化層和第三池化層均設定為MaxPooling操作，池化窗口大小均為3×3；第三卷積層和第四卷積層均設定為64個卷積核，卷積核大小均為3×3；全連接層設定為64維神經元節點；輸出層的輸出設定為“0”和“1”，其中，0表示輸入的編碼單元的劃分情況為不劃分，1表示輸入的編碼單元的劃分情況為劃分。

4.根據權利要求1所述的編碼樹單元劃分方法，其特征在于，所述S2中通過訓練集訓練深度卷積神經網絡，并通過測試集測試深度卷積神經網絡時；通過優化最小二乘法函數實現對深度卷積神經網絡模型參數的更新與求解，通過反向傳播BP算法計算損失函數及參數更新梯度，對深度卷積神經網絡進行更新。

5.根據權利要求1所述的編碼樹單元劃分方法，其特征在于，所述訓練集內還包括均值編碼單元，均值編碼單元通過訓練集內的所有編碼單元相同位置像素值計算均值得到。

6.根據權利要求1所述的編碼樹單元劃分方法，其特征在于，所述預設最小編碼單元尺寸為8×8。

7.一種編碼樹單元劃分系統，其特征在于，包括：

第一獲取模塊，用于獲取已確定劃分情況的若干編碼單元，并將其分為訓練集和測試集；

模型生成模塊，用于建立深度卷積神經網絡，通過訓練集訓練深度卷積神經網絡，并通過測試集測試深度卷積神經網絡，得到深度卷積神經網絡預測模型；

第二獲取模塊，用于獲取待編碼視頻的所有編碼樹單元；

預測模塊，用于針對每個編碼樹單元，獲取編碼樹單元內的編碼單元，對編碼單元通過深度卷積神經網絡預測模型預測劃分情況；還用于當劃分得到的編碼單元大于預設最小編碼單元尺寸時，對劃分得到的編碼單元通過深度卷積神經網絡預測模型預測劃分情況；

劃分模塊，用于當預測的劃分情況為劃分時，對編碼單元進行劃分；以及

結果生成模塊，用于根據每個編碼樹單元內部所有的編碼單元的預測結果，得到每個編碼樹單元的劃分結果。

8.一種計算機設備，包括存儲器、處理器以及存儲在所述存儲器中并可在所述處理器上運行的計算機程序，其特征在于，所述處理器執行所述計算機程序時實現如權利要求1至6任一項所述編碼樹單元劃分方法的步驟。