[發明專利]一種基于神經網絡的幀內編碼單元尺寸劃分方法

在審

• 申請號: 202110750972.2
• 申請日: 2021-07-01
• 公開（公告）號: CN113781588A
• 公開（公告）日: 2021-12-10
• 發明（設計）人: 張鵬;劉浩寧;向國慶;嚴偉;賈惠柱
• 申請（專利權）人: 杭州未名信科科技有限公司;浙江省北大信息技術高等研究院
• 主分類號: G06T9/00
• 分類號: G06T9/00;G06N3/04;G06N3/08
• 代理公司: 北京辰權知識產權代理有限公司 11619
• 代理人: 谷波

1.一種基于神經網絡的幀內編碼單元尺寸劃分方法，其特征在于，包括以下步驟：

獲取第一預設尺寸的編碼單元；

將所述編碼單元輸入到訓練好的神經網絡模型中，獲得第二預設尺寸的編碼單元；

記錄所述第二預設尺寸的編碼單元的尺寸，在模型預測結果中找到其相應位置并進行加和平均操作，獲得對該編碼單元不劃分的概率；

如果所述不劃分的概率大于第一閾值，則提前終止劃分；

如果所述不劃分的概率小于第二閾值，則計算對該編碼單元劃分為子塊的概率，然后進行加和平均操作回溯到該編碼單元的尺寸以獲取所述第二預設尺寸的編碼單元在當前劃分模式下的概率；

獲取預設數目的概率進行大小比較并排序，選取前N個最大概率對應的劃分模式進行劃分。

2.根據權利要求1所述的基于神經網絡的幀內編碼單元尺寸劃分方法，其特征在于，所述計算對該編碼單元劃分為子塊的方法包括：四叉樹劃分、橫向二叉樹劃分、縱向二叉樹劃分、橫向擴展的四叉樹劃分和縱向擴展的四叉樹劃分。

3.根據權利要求1所述的基于神經網絡的幀內編碼單元尺寸劃分方法，其特征在于，所述神經網絡模型包括1個輸入層、4個卷積層、1個添加層和2個反卷積層。

4.根據權利要求1所述的基于神經網絡的幀內編碼單元尺寸劃分方法，其特征在于，所述神經網絡模型的訓練步驟如下：

獲取樣本；

將所述樣本按預設比例分為訓練樣本和驗證樣本；

設計損失函數與優化算法；

輸入所述訓練樣本進行訓練，每訓練一次就用所述驗證樣本進行驗證；

在達不到預設的驗證效果時重新設計損失函數與優化算法；

當迭代次數達到預設次數時，終止訓練。

5.根據權利要求4所述的基于神經網絡的幀內編碼單元尺寸劃分方法，其特征在于，所述損失函數為：

其中，為類平衡因子，(1-p_j)^γ為調制因子，p為預測概率，C為類別數，β和γ表示固定系數。

6.根據權利要求3所述的基于神經網絡的幀內編碼單元尺寸劃分方法，其特征在于，所述卷積層還包括預設尺寸的濾波器。

7.根據權利要求3所述的基于神經網絡的幀內編碼單元尺寸劃分方法，其特征在于，所述神經網絡模型還包括輸出層，所述輸出層的激活函數為softmax函數。

8.一種AVS3硬件編碼器，其特征在于，所述AVS3硬件編碼器應用如權利要求1至7任一項所述的基于神經網絡的幀內編碼單元尺寸劃分方法。

9.一種計算機設備，包括存儲器和處理器，其特征在于，所述存儲器中存儲有計算機可讀指令，所述計算機可讀指令被所述處理器執行時，使得所述處理器執行如權利要求1至7中任一項方法的步驟。

10.一種計算機存儲介質，其特征在于，所述計算機存儲介質存儲有多條指令，所述指令適于由處理器加載并執行如權利要求1至7中任一項方法的步驟。