[發明專利]使用基于變換的殘差編碼的預測圖像編碼

有效

• 申請號: 201780056744.7
• 申請日: 2017-07-13
• 公開（公告）號: CN109716767B
• 公開（公告）日: 2021-09-21
• 發明（設計）人: 圣地亞哥·德魯西安埃爾南德斯;德特勒夫·馬爾佩;克勞斯-羅伯特·穆勒;?？啤な┩叽?/a>;托馬斯·威甘德
• 申請（專利權）人: 弗勞恩霍夫應用研究促進協會
• 主分類號: H04N19/12
• 分類號: H04N19/12;H04N19/157;H04N19/176;H04N19/463
• 代理公司: 中科專利商標代理有限責任公司 11021
• 代理人: 郭雪茹

通過允許編解碼器在用于基于變換的殘差編碼的一組變換合之間進行切換來增強使用基于變換的殘差編碼的預測圖像編解碼器的編碼效率。結果是，即使當使用從編碼器到解碼器的顯式信令以便在從編碼器到解碼器的所述一組變換之外用信號通知要被使用的實際變換時，也可能會導致編碼效率的提高?？商鎿Q地，所述一組變換之間的切換可以在根本沒有顯式信令的情況下、或者使用顯式信令和某種類型的變換預測的組合而被執行。

技術領域

本發明涉及使用基于變換的殘差編碼(例如混合視頻編碼)的預測圖像編碼。

背景技術

到目前為止，已知許多壓縮技術和標準。例如，許多靜止圖像編解碼器使用特定的譜變換以便對要被編碼的樣本進行去相關。在視頻編解碼器中，經常使用譜變換以便對表示預測殘差的殘差樣本進行去相關，而預測殘差又可以已經使用幀內編碼(即，空間地)或幀間編碼例如通過時間預測來獲得。

例如，在基于塊的混合視頻編碼器標準(例如，H.264/高級視頻編碼(AVC)和H.265/高效視頻編碼(HEVC))中，視頻序列中的圖像被分成塊，然后每個塊在空間上或時間上被預測。此時，殘差信號作為塊的原始樣本與其預測之間的差被導出[1]。然后，采用變換、量化和熵編碼方法來進一步減少殘差的冗余。

具體地，在HEVC的情況下，通過對4×4幀內預測塊執行2D可分離離散正弦變換(DST)類型VII(DST-VII)并對所有其他塊執行2D 可分離離散余弦變換(DCT)類型II(DCT-II)，來實施變換階段[1]。此外，跳過變換步驟并在空間域中直接量化殘差樣本的方法也可在編碼器處獲得，盡管此模式僅限于44塊[1]。

使用DCT-II作為圖像和視頻編碼應用中的主要變換的原因在于利用一階靜態馬爾可夫過程來對殘差信號進行建模。當相關因子非常高時， Karhunen-Loève變換(KLT)是這種過程的最佳變換，并且DCT-II基矢量非常接近KLT的DCT-II基矢量[2]。此外，與KLT不同，DCT-II 具有信號獨立變換的優勢，該信號獨立變換可以以可分離的方式使用快速算法在2維(行和列)中實施[2]。

然而，正如[3]和[4]中指出的那樣，KLT通常并不一定是在額定失真意義上的最佳變換。該事實質疑其適用性，并且通過擴展，DCT-II 作為主要變換的適用性，特別是在幀內預測殘差的情況下[5]。

給定某個塊，在HEVC中通過對相鄰塊的解碼邊界樣本按照一定的模式(即33個角度模式和一個DC模式和平面模式)進行外推來在HEVC 中執行幀內預測。為了改進幀內編碼過程，在本文中，我們開發了一種方法，該方法允許編碼器在每個變換單元(TU)的速率-失真環中測試來自給定集合的不同變換。然后將最小化速率-失真成本的變換被信號通知給解碼器。新變換是可分離的，并且所述新變換通過在TB的行上首先施加第一1D變換，然后在其列上施加另一個1D變換被構造而成?？捎玫囊痪S變換是DCT-II族和DST-VII族中稱為離散三角變換(DTT) 和恒等變換(IT)的成員，其等同于先前提到的HEVC的變換跳過模式。

在文獻中已經提出了各種提議來改進HEVC編碼器的變換編碼性能。這些提議表明，通過將離散變換的不同組合施加到幀內預測的殘差塊，可以實現比特率降低。

由于HEVC共支持35種幀內預測模式(IPM)，因此已經提出了不同的模式相關方向變換(MDDT)算法。在MDDT中，用于映射殘差的變換的選擇取決于IPM。例如，在[6]中，作者推導出一種根據IPM 選擇DCT-II和DST-VII的組合作為行和列變換的方案。值得注意的是，該作者們的工作導致DSTVII被引入作為在HEVC中4×4幀內預測塊的核心變換。

另一方面，參考文獻[7]提出了另一種MDDT方法，其中對于每個 IPM來說使用一個速率-失真優化變換(RDOT)。這意味著使用被設計成最小化速率-失真標準的算法離線訓練每個變換的系數。