[發明專利]一種高效視頻編碼率失真優化量化方法

有效

• 申請號: 201710081906.4
• 申請日: 2017-02-15
• 公開（公告）號: CN108429911B
• 公開（公告）日: 2020-10-27
• 發明（設計）人: 諸悅;劉斌;萬建軍;張磊;章旭東;湯勇
• 申請（專利權）人: 上海富瀚微電子股份有限公司
• 主分類號: H04N19/13
• 分類號: H04N19/13;H04N19/147;H04N19/124
• 代理公司: 上海思微知識產權代理事務所(普通合伙) 31237
• 代理人: 許曉琳

1.一種高效視頻編碼率失真優化量化方法，其特征在于：該方法將待處理的TB分割為子塊，將掃描順序上連續的多個系數稱為路徑，將子塊內部的路徑部分稱為子路徑，將該率失真優化量化方法轉換為TB內部的最佳路徑搜索以及各子塊內部的最佳路徑搜索,最佳路徑搜索均以找到度量最低的合法路徑為目標，路徑的度量為其拉格朗日代價；

于TB內部的最佳路徑搜索中，將各個子路徑的全0/非全0狀態視為狀態空間，并使用M算法進行搜索以獲取最低代價的路徑；

于TB內部的最佳路徑搜索中，限制路徑為一條非全0路徑以及一條全0路徑；

該TB內部的最佳路徑搜索的搜索過程為：

S1、將非全0路徑P₀初始化代價Γ₀為Γ_inf，Γ_inf為正無窮大，全0路徑P′₀初始化代價Γ′₀為0，子塊的索引值i＝0，按HEVC標準規定的掃描順序對子塊進行索引；

S2、對當前子塊B_i進行搜索，執行子塊B_i內部的最佳路徑搜索，得到通過B_i的最佳路徑p_i及其度量ρ_i、全零路徑及其度量

S3、計算將B_i編碼為非0/全0塊需要的率R_2,i及R′_2,i；

S4、更新路徑，具體操作如下：

Γ_i+1＝ρ_i+λR_2,i

P_i+1＝p_i

對路徑及子路徑的“+”操作表示連接以獲得延長后的路徑；

S5、更新i←i+1，←表示賦值操作；

S6、重復步驟S2-S5直至i＝N_TB；

S7、比較與

S8、若那么

否則

其中P_RDOQ即為TB通過RDOQ后獲得的量化結果，R₀為非全0子塊的率，R₀’為全0子塊的率，P_NTB為非全0子塊的路徑，P_NTB’為全0子塊的路徑。

2.如權利要求1所述的一種高效視頻編碼率失真優化量化方法，其特征在于，于子塊內部的最佳路徑搜索中，將每個子塊按照HEVC標準規定的掃描順序轉化為16×1的序列，而每一個系數Y_i,j選擇三個量化值，子塊內所有的系數的可能狀態組成了一個16×3的空間。

3.如權利要求2所述的一種高效視頻編碼率失真優化量化方法，其特征在于：將子塊內的子路徑搜索問題轉換為在16×3的格點上尋找最優路徑的問題。

4.如權利要求3所述的一種高效視頻編碼率失真優化量化方法，其特征在于：于子塊內部的最佳路徑搜索中，使用M算法在格點上進行搜索。

5.如權利要求4所述的一種高效視頻編碼率失真優化量化方法，其特征在于，子塊內部的最佳路徑搜索過程如下：

P1、首先初始化子路徑，子路徑p_i,0,0～p_i,0,1起始于兩個起始狀態，起始點對應子塊外部的路徑，分別等于P_i及P′_i，路徑度量ρ_i,0,0～ρ_i,0,1使用對應Γ_i及Γ_i′進行初始化，ρ_i,0,2～ρ_i,0,M-1則初始化為ρ_inf，ρ_inf為正無窮大；

P2、每一個系數Y_i,j的量化值有3種可能，將其記為s_i,j,0～s_i,j,2，分別對應于系數Y_i,j被量化為不同的值，其中

s_i,j,0：|c_i,j|＝0

其中，G_MF為為乘數因子，是一個與量化參數相關的常數，某些量化值s_i,j,x可能小于0或者與其他量化值s_i,j,y重復且yx，此時設定b_i,j,m,x＝ρ_inf，否則令b_i,j,m,x為將路徑p_i,j,m延伸至系數s_i,j,x所增加的度量值，稱為分支度量，此延伸稱為分支，此系數s_i,j,m稱為s_i,j,m,x；

P3、每一步的搜索中，子路徑的數量從M增加為3M條，其中，M為留存路徑數：

ρ′_i,j+1,m,x＝ρ_i,j,m+b_i,j,m,x

p′_i,j+1,m,x＝p_i,j,m+s_i,j,m,x，

其中x∈[0,2]；

對ρ′_i,j+1,m,j進行排序，選出對應ρ最小的M條子路徑保存下來，即留存子路徑p_i,j+1,m在排序過程中保留一條路徑它始于P′_i且在每個分支上都選擇s_i,j,0，即有：

如果語法元素sign_data_hide_enable_flag置1，那么保證所有子路徑被排序時，在路徑以外有一條路徑滿足以下約束之一：

j_s≥12

其中，m_f為路徑編號，j_s為子路徑上首個非零系數在子塊內部的編號，如果度量最小的M條除以外的子路徑中沒有滿足所述約束的子路徑，則用ρ′_i+1,m,j從小到大順序的第一條滿足上述約束的子路徑取代M條路徑中度量最大的、除以外的一條路徑；

P4、重復步驟P2和P3，且每一步j會遞增直至j＝16，

此時，若sign_data_hide_enable_flag＝0,則

p_i＝p′_i,16,0

其他情況下,

p_i＝p′_i,16,t

其中t為滿足約束

j_s≥12

的最小自然數，其中，j_s為子路徑p_i,j+1,t上首個非零系數在子塊內部的編號，即為當前子塊B_i的子路徑搜索結果，對當前子塊B_i進行搜索過程結束。