[發明專利]一種基于深度學習的HEVC幀內預測編碼的方法

在審

• 申請號: 201910090435.2
• 申請日: 2019-01-30
• 公開（公告）號: CN109714596A
• 公開（公告）日: 2019-05-03
• 發明（設計）人: 曹俊
• 申請（專利權）人: 江蘇允博信息科技有限公司
• 主分類號: H04N19/147
• 分類號: H04N19/147;H04N19/103;H04N19/107;H04N19/176;H04N19/51;H04N19/503;H04N19/593
• 代理公司: 暫無信息
• 代理人: 暫無信息

1.一種基于深度學習的HEVC幀內預測編碼的方法，通過率失真優化(RDO)決策自適應地選擇是否使用所述幀內幀間組合預測；幀內幀間組合預測使用幀內預測塊和幀間預測塊加權的方法得到最終預測塊；幀內預測塊和幀間預測塊的加權系數根據預測方法的預測失真統計得到；由此能夠增加預測精度，提升預測塊的編碼效率；

針對幀內模式預測，首先在編碼端對每一個編碼單元進行率失真優化，執行如下操作：

S1.對一個編碼單元進行幀內預測；

S2.對該編碼單元進行幀間預測；

S3.對幀內預測和幀間預測進行加權平均，得到幀內幀間組合預測塊；

S4.通過率失真優化(RDO)決策確定是否使用基于深度學習的HEVC幀內預測編碼的方法；每一個編碼單元中均傳輸一個組合預測標記到碼流中，用于標識是否使用了基于深度學習的HEVC幀內預測編碼的方法；

S5.所述基于深度學習的HEVC幀內預測編碼的方法表示為式1：

RdCost＝lambda*Distortion+Rate，

其中Rate為所需碼字，lambda為損失Distortion的權重系數；

最終選擇RdCost最小的預測模式作為最佳預測模式。

2.如權利要求1所述基于深度學習的HEVC幀內預測編碼的方法，其特征是，所述組合預測標記為1-bit的標記。

3.如權利要求3所述基于深度學習的HEVC幀內預測編碼的方法，其特征是，對加權系數進行簡化或使用以行或列為單位的加權系數，以節約存儲加權系數的空間。

4.如權利要求3所述基于深度學習的HEVC幀內預測編碼的方法，其特征是，將浮點加權系數轉換為整數，并在加權之后進行右移操作，以避免進行浮點計算；

具體地，將加權系數乘以2的m次冪，加權計算之后再將預測值右移m位；將式1轉化為整數計算后表示為式4：

P′comb(x,y)＝(2m·Wintra(x,y)·Pintra(x,y)+(2m-2m·Wintra(x,y))·Pinter(x,y)+2m-1)>>m (式4)，

其中，m的取值與計算精度相關，所需的精度越高則m值越大，計算結果越準確。