[發(fā)明專利]一種壓縮編碼量化方法

有效

• 申請?zhí)枺?/td>: 201811261720.8
• 申請日: 2018-10-26
• 公開（公告）號: CN109510984B
• 公開（公告）日: 2021-02-05
• 發(fā)明（設計）人: 田林海;岳慶冬;李雯
• 申請（專利權）人: 和宇健康科技股份有限公司
• 主分類號: H04N19/124
• 分類號: H04N19/124;H04N19/176;H04N19/59
• 代理公司: 北京卓嵐智財知識產(chǎn)權代理事務所(特殊普通合伙) 11624
• 代理人: 郭智

1.一種壓縮編碼量化方法，其特征在于，包括以下步驟：

(a)設置量化宏塊；

(b)獲取所述宏塊中各像素的預測殘差和第一量化參數(shù)；

(c)根據(jù)所述預測殘差和所述第一量化參數(shù)分別計算SAD1和SAD2；

(d)比較所述SAD1和所述SAD2的大小，若所述SAD1≤SAD2，則根據(jù)所述SAD1對應的第一量化方法完成所述編碼壓縮量化，反之則根據(jù)所述SAD2對應的第二量化方法完成所述編碼壓縮量化；其中，

(c1)采用所述第一量化方法，根據(jù)所述預測殘差和所述第一量化參數(shù)計算所述SAD1的步驟包括：

(c11)根據(jù)所述預測殘差和所述第一量化參數(shù)獲得第一量化殘差；

(c12)根據(jù)所述第一量化殘差和所述第一量化參數(shù)獲得第一反量化殘差；

(c13)根據(jù)所述第一反量化殘差和所述預測殘差獲得殘差損失；

(c14)根據(jù)所述殘差損失獲取預設模板；

(c15)根據(jù)所述預設模板以及所述殘差損失獲得補償模板、第二反量化殘差以及所述SAD1；其中，

根據(jù)所述預設模板以及所述殘差損失獲得補償模板、第二反量化殘差以及所述SAD1的步驟包括：

(x1)根據(jù)所述預設模板以及所述殘差損失獲得所述補償模板；

(x2)根據(jù)所述補償模板、所述第一量化參數(shù)、所述第一量化殘差獲得所述第二反量化殘差；

(x3)根據(jù)所述第二反量化殘差和所述預測殘差計算所述SAD1；

(c2)采用所述第二量化方法，根據(jù)所述預測殘差和所述第一量化參數(shù)計算所述SAD2的步驟包括：

(c21)根據(jù)所述預測殘差獲得殘差分布類型；

(c22)根據(jù)所述第一量化參數(shù)確定所述第一量化參數(shù)的最大值、最小值以及差異值；

(c23)根據(jù)所述殘差分布類型、所述最大值、所述最小值以及所述差異值構建量化矩陣并計算所述宏塊的各像素的第二量化參數(shù)；

(c24)根據(jù)所述量化矩陣對所述預測殘差進行量化，得到所述宏塊中各像素的第二量化殘差和第三反量化殘差；

(c25)根據(jù)所述第三反量化殘差以及所述預測殘差計算SAD2；

設置十六組所述預設模板計算所述補償模板；

所述殘差分布類型包括：遞弱型、遞強型、強弱強型、弱弱弱型、普通型；其中，

設置量化單元為宏塊MB，即一個所述宏塊MB采用統(tǒng)一的第一量化參數(shù)QP，所述第一量化參數(shù)QP由碼率控制給出，設置所述宏塊MB的大小為8*1；

波動系數(shù)k的公式為：

式中，Lossres_i為所述殘差損失；pixnum_none0為所述宏塊MB內(nèi)非0的預測殘差數(shù)量；abs表示求絕對值，round表示四舍五入；

將16組所述預設模板的所述波動狀態(tài)用表格來表達，如下表所示：

將16組所述預設模板分別帶入SAD公式中，比較SAD的大小，最小值對應的所述預設模板作為所述補償模板；

式中，所述Lossres_i為殘差損失；c_i為所述波動狀態(tài)0≤i≤7；k為所述波動系數(shù)，pixnum為所述宏塊MB內(nèi)像素點的數(shù)量；

所述第二反量化殘差的公式為：

invResqp_2i＝(Resqp_1iQP)+(1QP)/2+c_i*k

所述SAD1的計算公式為：

其中，Res_i為所述宏塊MB中第i位像素的所述預測殘差，invResqp_2i為所述宏塊MB中第i位像素的所述第二反量化殘差，m×n表示所述量化矩陣的大小，ABS表示取絕對值；

所述殘差分布類型由殘差分布系數(shù)來決定；將所述殘差分布系數(shù)記為Grad_j，其中，j為1到4的整數(shù)，所述殘差分布系數(shù)Grad_j滿足：

其中，r_i為所述宏塊MB中第i位的像素的所述預測殘差的絕對值，i為0到n-1的整數(shù)，n為所述宏塊MB內(nèi)像素點的數(shù)量；

分別判斷Grad_j是否滿足如下條件：

若Grad₁a₁，則所述殘差分布類型屬于遞弱型；

若Grad₂a₂，則所述殘差分布類型屬于遞強型；

若Grad₃a₃，則所述殘差分布類型屬于弱強弱型；

若Grad₄a₄，則所述殘差分布類型屬于強弱強型；

如果以上條件都不滿足，則所述殘差分布類型屬于普通型；

若根據(jù)上述公式計算出來的所述殘差分布類型出現(xiàn)多種類型同時存在的情況，則取Grad_j最大的值所對應的類型為所述殘差分布類型；a_j為設定閾值，j為1到4的整數(shù)；

所述最大值MAXQP、所述最小值MINQP、所述差異值DIFQP分別滿足：

式中，bitdepth為原始像素的比特深度；

計算所述宏塊MB中按從左到右順序的每個像素的所述第二量化參數(shù)QP_i，i為像素序號，i為0到n-1的整數(shù)；

當n＝8時，

若所述殘差分布類型為遞弱型，則QP_i滿足:

若所述殘差分布類型為遞強型,則QP_i滿足:

若所述殘差分布類型為弱強弱型,則QP_i滿足:

若殘差分布類型為強弱強型,則QP_i滿足:

若殘差分布類型為普通型則QP_i滿足:

QP_i＝QP，0≤i≤7

最終求得量化矩陣為：QP_matrix＝QP_i,0≤i≤7。

2.根據(jù)權利要求1所述的壓縮編碼量化方法，其特征在于，步驟(c21)包括：

(y1)根據(jù)所述預測殘差獲得殘差分布系數(shù)；

(y2)根據(jù)所述殘差分布系數(shù)獲得所述殘差分布類型。