[發(fā)明專利]一種壓縮編碼量化方法

有效

• 申請?zhí)枺?/td>: 201811261720.8
• 申請日: 2018-10-26
• 公開（公告）號: CN109510984B
• 公開（公告）日: 2021-02-05
• 發(fā)明（設(shè)計）人: 田林海;岳慶冬;李雯
• 申請（專利權(quán)）人: 和宇健康科技股份有限公司
• 主分類號: H04N19/124
• 分類號: H04N19/124;H04N19/176;H04N19/59
• 代理公司: 北京卓嵐智財知識產(chǎn)權(quán)代理事務(wù)所(特殊普通合伙) 11624
• 代理人: 郭智

1.一種壓縮編碼量化方法，其特征在于，包括以下步驟：

(a)設(shè)置量化宏塊；

(b)獲取所述宏塊中各像素的預(yù)測殘差和第一量化參數(shù)；

(c)根據(jù)所述預(yù)測殘差和所述第一量化參數(shù)分別計算SAD1和SAD2；

(d)比較所述SAD1和所述SAD2的大小，若所述SAD1≤SAD2，則根據(jù)所述SAD1對應(yīng)的第一量化方法完成所述編碼壓縮量化，反之則根據(jù)所述SAD2對應(yīng)的第二量化方法完成所述編碼壓縮量化；其中，

(c1)采用所述第一量化方法，根據(jù)所述預(yù)測殘差和所述第一量化參數(shù)計算所述SAD1的步驟包括：

(c11)根據(jù)所述預(yù)測殘差和所述第一量化參數(shù)獲得第一量化殘差；

(c12)根據(jù)所述第一量化殘差和所述第一量化參數(shù)獲得第一反量化殘差；

(c13)根據(jù)所述第一反量化殘差和所述預(yù)測殘差獲得殘差損失；

(c14)根據(jù)所述殘差損失獲取預(yù)設(shè)模板；

(c15)根據(jù)所述預(yù)設(shè)模板以及所述殘差損失獲得補(bǔ)償模板、第二反量化殘差以及所述SAD1；其中，

根據(jù)所述預(yù)設(shè)模板以及所述殘差損失獲得補(bǔ)償模板、第二反量化殘差以及所述SAD1的步驟包括：

(x1)根據(jù)所述預(yù)設(shè)模板以及所述殘差損失獲得所述補(bǔ)償模板；

(x2)根據(jù)所述補(bǔ)償模板、所述第一量化參數(shù)、所述第一量化殘差獲得所述第二反量化殘差；

(x3)根據(jù)所述第二反量化殘差和所述預(yù)測殘差計算所述SAD1；

(c2)采用所述第二量化方法，根據(jù)所述預(yù)測殘差和所述第一量化參數(shù)計算所述SAD2的步驟包括：

(c21)根據(jù)所述預(yù)測殘差獲得殘差分布類型；

(c22)根據(jù)所述第一量化參數(shù)確定所述第一量化參數(shù)的最大值、最小值以及差異值；

(c23)根據(jù)所述殘差分布類型、所述最大值、所述最小值以及所述差異值構(gòu)建量化矩陣并計算所述宏塊的各像素的第二量化參數(shù)；

(c24)根據(jù)所述量化矩陣對所述預(yù)測殘差進(jìn)行量化，得到所述宏塊中各像素的第二量化殘差和第三反量化殘差；

(c25)根據(jù)所述第三反量化殘差以及所述預(yù)測殘差計算SAD2；

設(shè)置十六組所述預(yù)設(shè)模板計算所述補(bǔ)償模板；

所述殘差分布類型包括：遞弱型、遞強(qiáng)型、強(qiáng)弱強(qiáng)型、弱弱弱型、普通型；其中，

設(shè)置量化單元為宏塊MB，即一個所述宏塊MB采用統(tǒng)一的第一量化參數(shù)QP，所述第一量化參數(shù)QP由碼率控制給出，設(shè)置所述宏塊MB的大小為8*1；

波動系數(shù)k的公式為：

式中，Lossres_i為所述殘差損失；pixnum_none0為所述宏塊MB內(nèi)非0的預(yù)測殘差數(shù)量；abs表示求絕對值，round表示四舍五入；

將16組所述預(yù)設(shè)模板的所述波動狀態(tài)用表格來表達(dá)，如下表所示：

將16組所述預(yù)設(shè)模板分別帶入SAD公式中，比較SAD的大小，最小值對應(yīng)的所述預(yù)設(shè)模板作為所述補(bǔ)償模板；

式中，所述Lossres_i為殘差損失；c_i為所述波動狀態(tài)0≤i≤7；k為所述波動系數(shù)，pixnum為所述宏塊MB內(nèi)像素點(diǎn)的數(shù)量；

所述第二反量化殘差的公式為：

invResqp_2i＝(Resqp_1iQP)+(1QP)/2+c_i*k

所述SAD1的計算公式為：

其中，Res_i為所述宏塊MB中第i位像素的所述預(yù)測殘差，invResqp_2i為所述宏塊MB中第i位像素的所述第二反量化殘差，m×n表示所述量化矩陣的大小，ABS表示取絕對值；

所述殘差分布類型由殘差分布系數(shù)來決定；將所述殘差分布系數(shù)記為Grad_j，其中，j為1到4的整數(shù)，所述殘差分布系數(shù)Grad_j滿足：

其中，r_i為所述宏塊MB中第i位的像素的所述預(yù)測殘差的絕對值，i為0到n-1的整數(shù)，n為所述宏塊MB內(nèi)像素點(diǎn)的數(shù)量；

分別判斷Grad_j是否滿足如下條件：

若Grad₁a₁，則所述殘差分布類型屬于遞弱型；

若Grad₂a₂，則所述殘差分布類型屬于遞強(qiáng)型；

若Grad₃a₃，則所述殘差分布類型屬于弱強(qiáng)弱型；

若Grad₄a₄，則所述殘差分布類型屬于強(qiáng)弱強(qiáng)型；

如果以上條件都不滿足，則所述殘差分布類型屬于普通型；

若根據(jù)上述公式計算出來的所述殘差分布類型出現(xiàn)多種類型同時存在的情況，則取Grad_j最大的值所對應(yīng)的類型為所述殘差分布類型；a_j為設(shè)定閾值，j為1到4的整數(shù)；

所述最大值MAXQP、所述最小值MINQP、所述差異值DIFQP分別滿足：

式中，bitdepth為原始像素的比特深度；

計算所述宏塊MB中按從左到右順序的每個像素的所述第二量化參數(shù)QP_i，i為像素序號，i為0到n-1的整數(shù)；

當(dāng)n＝8時，

若所述殘差分布類型為遞弱型，則QP_i滿足:

若所述殘差分布類型為遞強(qiáng)型,則QP_i滿足:

若所述殘差分布類型為弱強(qiáng)弱型,則QP_i滿足:

若殘差分布類型為強(qiáng)弱強(qiáng)型,則QP_i滿足:

若殘差分布類型為普通型則QP_i滿足:

QP_i＝QP，0≤i≤7

最終求得量化矩陣為：QP_matrix＝QP_i,0≤i≤7。

2.根據(jù)權(quán)利要求1所述的壓縮編碼量化方法，其特征在于，步驟(c21)包括：

(y1)根據(jù)所述預(yù)測殘差獲得殘差分布系數(shù)；

(y2)根據(jù)所述殘差分布系數(shù)獲得所述殘差分布類型。