[發明專利]一種用于數字視頻編解碼的3乘3整數DCT變換量化器

有效

• 申請號: 201710604580.9
• 申請日: 2017-07-24
• 公開（公告）號: CN107249130B
• 公開（公告）日: 2023-04-07
• 發明（設計）人: 陳朝陽
• 申請（專利權）人: 河南工程學院
• 主分類號: H04N19/122
• 分類號: H04N19/122;H04N19/124;H04N19/176;H04N19/625
• 代理公司: 鄭州優盾知識產權代理有限公司 41125
• 代理人: 張紹琳;栗改

本發明提出了一種用于數字視頻編解碼的3乘3整數DCT變換量化器，同時給出了與之對應的3乘3整數IDCT逆變換反量化器，用以解決現有數字視頻編解碼中4×4整數DCT核心變換的運算次數多、計算時間長的問題，包括當前幀3×3分塊器、3×3整數DCT核心變換器、后縮放量化器和3×3圖像變換塊發送器，當前幀3×3分塊器與3×3整數DCT核心變換器相連接，3×3整數DCT核心變換器與后縮放量化器相連接，后縮放量化器與3×3圖像變換塊發送器相連接。與采用4×4整數DCT變換相比，對于一個1920×1080的彩色高清視頻幀，本發明乘法運算次數減少了33.3%；加減法運算次數減少了33.3%，同時解碼視頻幀PSNR提高。

技術領域

本發明涉及數字視頻壓縮編解碼的技術領域，具體涉及一種用于數字視頻編解碼的3?乘3整數DCT變換量化器，同時給出了其相匹配的3乘3整數IDCT逆變換反量化器。

背景技術

H.264和H.265視頻編解碼標準都采用了4×4整數DCT變換，編解碼端都需要歸一化，量化與變換歸一化相結合，通過乘法、移位實現。我國具有自主知識產權的AVS標準采用8×8整數DCT變換，編碼端進行變換歸一化，量化與變換歸一化相結合，通過乘法和移位實現。整數DCT變換的產生解決了計算精度誤差大和編碼效率低的問題，其特點是用整數變換矩陣代替DCT的浮點數變換矩陣，這樣變換過程完全是整數運算，不存在精度誤差，保證了編碼的可逆性，同時整數乘法可用加減法和移位運算代替，運算量大幅度減少。

4×4整數DCT變換可以表示為：

式(1)中，X代表原始圖像塊，Y代表得到的DCT系數。是4×4整型變換中的核心2D變換。E_4f是縮放因數矩陣，表示的每個元素都要乘以矩陣E_4f中相同位置的對應縮放因子，且

4×4整數IDCT逆變換表示為：

式(2)中，Y代表圖像塊的DCT變換系數，X′表示經過IDCT逆變換得到的圖像塊。

4×4整數DCT變換是正交變換。對于一個4×4整數DCT變換，其核心2D變換的運算量為：乘法(乘2運算)32次，加減法96次。對于一個1920×1080的彩色高清視頻幀，采用4：2：0的子采樣格式則需要194400個4×4整數DCT變換，其核心2D變換需要的乘法(乘2運算)次數為6220800，加減法次數為18662400。

為了進一步減少運算量，4×4整數DCT核心變換可以分兩步完成：先對圖像塊的每一列做一維變換，再對變換結果的每一行做一維變換。行變換的運算量和列變換相同，可利用如下的蝶形運算實現4×4整數DCT核心變換：

首先，對式(1)中原始圖像塊X采用蝶形運算進行一維列變換：

進行運算，其中x_n,n＝0,1,2，3為X中任一列的元素，一維列變換結果為p_n,n＝0,1,2,3，一維列變換需要做四次，分別對X的4列進行一維列變換，即：

第一次蝶形運算輸入為x₀＝x₀₀，x₁＝x₁₀，x₂＝x₂₀，x₃＝x₃₀，輸出為p₀＝p₀₀，p₁＝p₁₀，p₂＝p₂₀，p₃＝p₃₀；