[發明專利]一種率失真優化方法

有效

• 申請號: 201210231549.2
• 申請日: 2012-07-05
• 公開（公告）號: CN102752596A
• 公開（公告）日: 2012-10-24
• 發明（設計）人: 劉偉杰;何輝;徐茂
• 申請（專利權）人: 深圳廣晟信源技術有限公司
• 主分類號: H04N7/26
• 分類號: H04N7/26;H04N7/50
• 代理公司: 深圳市順天達專利商標代理有限公司 44217
• 代理人: 李琴;易皎鶴

技術領域

本發明涉及圖像/視頻編解碼領域，更具體地說，涉及一種率失真優化方法。

背景技術

以國際標準H264為參考，對基本編碼單元進行編碼時，可以選擇不同的編碼模式。編碼模式的選擇包括對幀內預測方式或幀間預測方式的選擇，也可以包括對基本編碼單元的分割方式（例INTRA-4x4、INTRA-8x8、INTRA-16x16、SKIP、DIRECT、INTER-16x16、INTER-16x8、INTER-8x16、INTER-8x8、對INTER-8x8可以進一步分為INTER-8x8、INTER-8x4、INTER-4x8、INTER-4x4）的選擇，還可以包括對預測塊位置（例Intra_4x4_Vertical、Intra_4x4_Horizontal、Intra_4x4_Diagonal_Down_Left、Intra_4x4_Diagonal_Down_Right、Intra_4x4_Vertical_Right、Intra_4x4_Horizontal_Down、Intra_4x4_Vertical_Left、Intra_4x4_Horizontal_Up、Intra_4x4_DC）的選擇。編碼模式的確定是通過率失真優化實現的，其中率失真優化是對以下代價函數J求最小值的過程，

J(s,c,mode|QP)=D(s,c,mode|QP)+λ_modeR(s,c,mode|QP)????（1）

其中D是失真值，R是碼率值，s和c分別表示原圖和通過編解碼處理的再建圖像相應的基本編碼單元，mode表示基本編碼單元的可選擇編碼模式，QP為量化參數，λ_mode是用來折衷失真值和碼率值的拉格朗日參數。

率失真優化是在量化參數QP已定的條件下，確定能使上述代價函數J最小的mode。在H264標準中，λ_mode是由量化參數QP決定的，即有

λ_mode=0.85×2^(QP-12)/3????（2）

上述率失真優化是在指定λ_mode的情況下確定最優的編碼模式mode。但是，上述λ_mode的確定方式只是用MSE（mean?squared?error，均方誤差）測定失真時的一個統計近似結果。而MSE并不是總能正確地表達失真，反而會經常出現與人眼的失真感覺不一致的情況。比如針對一些MSE值相近的失真圖像，人眼的失真感覺可能會有很大不同。所以用MSE測定失真的方法并不夠完善，因此會導致上述率失真優化的結果也并非最佳。

故，有必要提供一種率失真優化方法，以解決現有技術所存在的問題。

發明內容

本發明要解決的技術問題在于，針對現有技術中的率失真優化方法不能正確的表達失真，造成率失真優化的結果不佳的缺陷，提供一種通過綜合兩種率失真優化指標，使得率失真優化結果最佳的率失真優化方法。

本發明解決其技術問題所采用的技術方案是：本發明涉及一種率失真優化方法，其包括步驟：

A、采用第一計算指標進行率失真計算，得到第一組失真/碼率值；

B、采用第二計算指標進行率失真計算，得到第二組失真/碼率值；

C、采用第一率失真優化方式，獲取所述第一組失真/碼率值中對應最小編碼代價的失真/碼率值；

D、根據所述最小編碼代價的失真/碼率值，獲得多個候補碼率值及相應的編碼代價；

E、采用第二率失真優化方式，獲取與所述候補碼率值對應的第二組失真/碼率值的補償代價；

F、根據所述編碼代價以及所述補償代價，確定綜合代價的最小值，進而獲取最佳編碼模式。

在本發明所述的率失真優化方法中，所述第一計算指標為對應于均方誤差的差值平方和指標，具體為：