[發明專利]一種視頻編碼的編碼模式選擇方法及裝置

有效

• 申請號: 201110403133.X
• 申請日: 2011-12-07
• 公開（公告）號: CN102790878A
• 公開（公告）日: 2012-11-21
• 發明（設計）人: 崔巖松;蔡曉霞;任維政;鄧中亮;劉欣;段大高
• 申請（專利權）人: 北京郵電大學
• 主分類號: H04N7/26
• 分類號: H04N7/26;H04N7/32
• 代理公司: 北京三高永信知識產權代理有限責任公司 11138
• 代理人: 羅振安

1.一種視頻編碼的編碼模式選擇方法，其特征在于，所述方法包括：

判斷當前幀是否為I幀；

當所述當前幀是I幀時，獲取所述當前幀的圖像的相對復雜度，并對所述當前幀的增強層進行編碼預測，得到幀內最優編碼模式；

當所述當前幀不是I幀時，對所述當前幀的增強層依次使用預設的最大概率編碼模式集合中的所有編碼模式進行編碼預測，得當前最佳編碼模式，根據所述當前幀的當前宏塊編碼時使用的編碼量化步長和所述當前幀的前一個I幀的圖像的相對復雜度計算得到所述當前最佳編碼模式的提前終止條件，如果所述當前最佳編碼模式的率失真代價滿足所述提前終止條件，則將所述當前最佳編碼模式作為幀間最優編碼模式。

2.根據權利要求1所述的方法，其特征在于，所述獲取所述當前幀的圖像的相對復雜度，包括：

獲取預設的訓練序列的I幀的基礎層宏塊編碼的平均絕對差MAD均值MAD_ref；

獲取所述當前幀的基礎層的宏塊的MAD均值MAD_cur；

根據第一公式計算得到所述當前幀的圖像的相對復雜度λ；

其中，所述第一公式具體為

3.根據權利要求2所述的方法，其特征在于，所述獲取預設的訓練序列的I幀的基礎層宏塊編碼的平均絕對差MAD均值MAD_ref，包括：

對所述預設的訓練序列的I幀的基礎層宏塊編碼的MAD均值使用第二公式進行函數擬合，得到擬合系數α，β和γ；

其中，所述第二公式具體為MAD_ref(QP)＝α·e^β·QP+γ，QP為所述預設的訓練序列的I幀的基礎層宏塊的編碼量化步長，MAD_ref(QP)為在所述QP下所述預設的訓練序列的I幀的基礎層宏塊編碼的MAD均值；

當對所述當前幀的基礎層進行編碼時，將當前幀的當前宏塊所使用的編碼量化步長QP′使用第三公式計算得到MAD_ref；

其中，所述第三公式具體為MAD_ref＝α·e^β·QP′+γ。

4.根據權利要求1所述的方法，其特征在于，所述根據所述當前幀的當前宏塊編碼時使用的編碼量化步長和所述當前幀的前一個I幀的圖像的相對復雜度計算得到所述當前最佳編碼模式的提前終止條件，包括：

根據所述當前幀的當前宏塊編碼時使用的編碼量化步長QP和所述當前幀的前一個I幀的圖像的相對復雜度λ使用第四公式計算得到第一率失真代價門限TH′_b，e；

其中，所述第四公式為TH_b，e＝λ·RD_b，e(QP)，RD_b，e(QP)為通過公式RD_b，e(QP)＝a·e^k·QP+d計算得到的在所述QP下所述預設的訓練序列的條件模式率失真代價均值，a、k和d為擬合系數，所述條件模式率失真代價為在所述預設的訓練序列的當前宏塊對應的基礎層宏塊采用b模式進行編碼的情況下，所述預設的訓練序列的當前宏塊采用e模式進行編碼計算得到的率失真代價；

相應地，所述如果所述當前最佳編碼模式的率失真代價滿足所述提前終止條件，則將所述當前最佳編碼模式作為幀間最優編碼模式，具體的為：

如果所述當前最佳編碼模式的率失真代價小于所述第一率失真代價門限，則將所述當前最佳編碼模式作為幀間最優編碼模式。

5.根據權利要求4所述的方法，其特征在于，在所述根據所述當前幀的當前宏塊編碼時使用的編碼量化步長和所述當前幀的前一個I幀的圖像的相對復雜度計算得到所述當前最佳編碼模式的提前終止條件之前，所述方法還包括：

使用所述預設的訓練序列對根據公式RD′_b，e(QP)＝a·e^k·QP+d進行擬合，得到擬合系數a、k和d，其中，RD′_b，e(QP)為根據所述QP計算得到的所述預設的訓練序列的條件模式率失真代價均值。

6.根據權利要求1所述的方法，其特征在于，所述方法還包括：

當所述當前最佳編碼模式的率失真代價不滿足所述提前終止條件時，對所述當前幀的增強層使用除所述預設的最大概率編碼模式集合之外的其他所有編碼模式進行編碼預測，得到幀間最優編碼模式。