[發明專利]一種適用于AVS2和HEVC幀內編碼的快速方法

有效

• 申請號: 201811526564.3
• 申請日: 2018-12-13
• 公開（公告）號: CN109348223B
• 公開（公告）日: 2021-02-26
• 發明（設計）人: 朱建國;李日
• 申請（專利權）人: 杭州當虹科技股份有限公司
• 主分類號: H04N19/147
• 分類號: H04N19/147;H04N19/17;H04N19/593;H04N19/96
• 代理公司: 杭州天昊專利代理事務所(特殊普通合伙) 33283
• 代理人: 程皓

1.一種適用于AVS2和HEVC幀內編碼的快速方法，其特征是，具體包括如下步驟：

(1)對I幀進行編碼，每個LCU進行四叉樹向下遞歸劃分，當編碼8x8的CU時，首先計算8x8 PU的編碼代價RDCost_8x8，當計算完8x8 PU的編碼代價之后，得到8x8 PU的重建圖像；

(2)通過計算8x8 PU的重建圖像與原始圖像的之間的失真作為紋理一致性及預測效果是否夠好的依據；具體為：將8x8 PU的重建圖像均分為4個4x4的區域，分別計算每個4x4塊重建圖像與原始圖像之間的失真SSD，得到四個失真SSD分別為ssd0、ssd1、ssd2、ssd3；其中：重建圖像與原始圖像之間的失真SSD指的是重建圖像與原始圖像之間的差值平方和；

(3)計算這四個失真SSD的最大值和最小值，分別為ssd_max和ssd_min，當ssd_max與ssd_min的差距小于Threshold1及ssd_max小于Threshold2時，則不需要再嘗試INTRA_NXN預測模式，直接選擇8x8PU預測模式；否則，需要計算INTRA_NxN的編碼代價；其中：Threshold1是預先設定的閾值，Threshold2是預先設定的閾值；

(4)計算4個4x4 PU的總的編碼代價RDCost_intraNxN，RDCost_8x8與RDCost_intraNxN進行比較，選擇編碼代價更小的作為8x8 PU編碼單元的最終預測模式。

2.根據權利要求1所述的一種適用于AVS2和HEVC幀內編碼的快速方法，其特征是，在步驟(3)中，計算ssd_diff_ratio來量化ssd_max與ssd_min的差距：ssd_diff_ratio＝(ssd_max–ssd_min)/ssd_min；如果ssd_diff_ratioThreshold1時，則認為紋理一致。

3.根據權利要求1所述的一種適用于AVS2和HEVC幀內編碼的快速方法，其特征是，在步驟(3)中，通過閾值來判斷8x8 PU的預測效果；具體來說，如果ssd_maxThreshold2，則認為當前8x8 PU預測效果夠好。

4.根據權利要求1或2或3所述的一種適用于AVS2和HEVC幀內編碼的快速方法，其特征是，在步驟(3)中，還需要滿足ssd_max與ssd_min的差距與ssd_max的乘積小于Threshold3時，則不需要再嘗試INTRA_NXN預測模式；其中：Threshold3＝Threshold1*Threshold2/3。