[發明專利]一種適用于HEVC標準的去方塊濾波器的濾波方法

有效

• 申請號: 201310399101.6
• 申請日: 2013-09-05
• 公開（公告）號: CN103491372B
• 公開（公告）日: 2018-04-27
• 發明（設計）人: 范益波;沈蔚煒;尚青;曾曉洋
• 申請（專利權）人: 復旦大學
• 主分類號: H04N19/117
• 分類號: H04N19/117;H04N19/13;H04N19/61
• 代理公司: 上海正旦專利代理有限公司31200
• 代理人: 陸飛,盛志范

1.一種適用于HEVC標準的去方塊濾波器的濾波方法，設在原始視頻流里，每幅圖像包括一個亮度分量，記為Y，每個亮度分量對應兩個色度分量，分別記為Cb、Cr；在去方塊濾波器模塊中，基于一個quarter-LCU單元進行處理；quarter-LCU包含Y分量、Cb分量以及Cr分量，Y分量為32×32的像素點塊，Cb分量和Cr分量為16×16的像素點塊；

設當前需要處理的quarter-LCU的像素點塊表示為C，則Y分量當前需要處理的quarter-LCU的4×4的像素點塊共64個，構成一個8×8方陣；Cb和Cr分量當前需要處理的quarter-LCU的4×4的像素點塊分別為16個，構成一個4×4方陣；同時，當前quarter-LCU左側相鄰的4×4像素點塊記為L，當前quarter-LCU上側相鄰的4×4像素點塊記為T，當前quarter-LCU左上角相鄰的4×4像素點塊記為LT；每個quarter-LCU的Y分量分為16個4×4的像素點塊的2×2方陣，quarter-LCU的Cb和Cr分量分別分為4個4×4的像素點塊的2×2方陣，其中需要進行濾波的邊為：Y、Cb和Cr的2×2方陣左側的邊，即垂直邊，Y、Cb和Cr的2×2方陣上方的邊，即水平邊；其中，水平邊延伸至左邊像素點塊L；

每次濾波是以一個4×4的像素點塊的邊為處理單元，即需要進行濾波的邊為4×4像素點塊的邊，記P塊和Q塊是該邊兩側相鄰的4×4像素點塊；若當前邊為垂直邊，則P塊和Q塊分別為該邊的左側和右側相鄰的4×4像素點塊，若當前邊為水平邊，則P塊和Q塊分別為該邊上側和下側相鄰的4×4像素點塊；其特征在于，進行濾波的具體順序如下：

先對垂直邊進行濾波，然后對水平邊進行濾波；對于各條垂直邊，自左至右依次進行濾波，對于每條垂直邊兩側的像素點塊，自上而下依次進行濾波；對于各條水平邊，自上而下依次進行濾波，對于每條水平邊兩側的像素點塊，自左至右依次進行濾波；

在Y分量中，垂直邊自左至右依次記為v1,v2,v3,v4,水平邊自上至下依次記為h1,h2,h3,h4；Cb分量中，垂直邊自左至右依次記為v5,v6，水平邊自上至下依次記為h5,h6；Cr分量中，垂直邊自左至右依次記為v7,v8，水平邊自上至下依次記為h7,h8；設：

左側方陣為4×4的P塊中16個相應位置像素點的值；右側方陣為4×4的Q塊中16個相應位置像素點的值；兩個方陣中，第一行的8個像素點為第一組，第二行的8個像素點為第二組，第三行的8個像素點為第三組，第四行的8個像素點為第四組；

(一)對Y分量，每一個4×4像素點塊的邊的處理步驟如下：

(1)判斷當前邊是不是預測單元或者變換單元的邊界，是的話，進行步驟(2)，不是的話，當前邊相鄰的P和Q塊不處理；

(2)計算當前邊的BS值，BS值的取值方式如表1所示；如果BS>0，進行步驟(3)，不是的話，當前邊相鄰的P和Q塊不處理；

(3)判定公式(1)是否成立，如果成立，進行步驟(4)，否則，當前邊相鄰的P和Q塊不處理；

式(1)中，β為一常數，dp0，dp3，dq0，dq3的值由式(2)，(3)，(4)，(5)得到；

(4)判定公式(6)，(7)，(8)是否成立，如果全部成立，進行步驟(5)，對P和Q塊進行強濾波，如果有一個公式未成立，進行步驟(6)，對P和Q塊進行弱濾波；

式(6)中dp0，dq0，dp3，dq3由式(2)，(3)，(4)，(5)得到；tc為一常數；

(5)對P和Q塊進行強濾波

P和Q塊的第1組的8個像素點強濾波處理過程為：用p0，q0，p1，q1，p2，q2的值替換原來p0,0，q0,0，p1,0，q1,0，p2,0，q2,0的值，p0，q0，p1，q1，p2，q2的值由式(9)，(10)，(11)，(12)，(13)，(14)得到；

P和Q塊的第2,3,4組的8個像素點的強濾波處理過程與此類似；

(6)對P和Q塊進行弱濾波

P和Q塊的第1組的8個像素點弱濾波處理過程為：

①如果式(15)成立，則用p0，q0的值替換原來p0,0，q0,0的值；式(15)中的△的值由式(16)得到，p0，q0的值由式(17)、式(18)得到，Clip1運算代表若括號中的值小于0，則表達式的值等于0，若括號中的值大于255，則表達式的值等于255，否則表達式的值等于原值；△1由式(19)得到，Clip3運算代表若括號中第三個值小于第一個值，則表達式的值等于第一個值，若括號中第三個值大于第二個值，則表達式的值等于第二個值，否則表達式的值等于第三個值；

②如果式(15)和(20)同時成立，則用p1的值替換原來p1,0的值；式(20)中的dp0，dp3由式(2)，(3)得到，p1的值由式(21)得到，其中△p由式(22)獲得；

③如果式(15)和(23)同時成立，則用q1的值替換原來q1,0的值；式(23)中的dq0，dq3由式(4)，(5)得到；q1的值由式(25)得到，其中△q由式(24)獲得；

P和Q塊的第2,3,4組的8個像素點的弱濾波處理方法與此類似；

(二)對Cb分量，每一個4×4像素點塊的邊的處理步驟如下：

(1)判斷當前邊是不是預測單元或者變換單元的邊界，是的話，進行步驟(2)，不是的話，當前邊相鄰的P和Q塊不處理；

(2)Cb分量當前4×4塊邊的BS值為對應的Y分量的4×4塊邊的值，若BS等于2則進行步驟(3)，否則，當前邊相鄰的P和Q塊不處理；

(3)對于第1組8個像素點，用p0，q0的值替換原來p0,0，q0,0的值；P0，q0的值由式(26)，(27)得到，其中△₂可由式(28)得到；

P和Q塊的第2,3,4組的8個像素點的處理方法與此類似；

(三)對Cr分量，每一個4×4像素點塊的邊的處理步驟與Cb分量濾波過程類似；

dp0+dp3+dq0+dq3<β(1)

dp0＝|p_2,0-2p_1,0+p_0,0| (2)

dp3＝|p_2,3-2p_1,3+p_0,3| (3)

dq0＝|q_2,0-2q_1,0+q_0,0|(4)

dq3＝|q_2,3-2q_1,3+q_0,3|(5)

dp0+dq0<β/8,dp3+dq3<β/8(6)

|p_3,0-p_0,0|+|q_0,0-q_3,0|<β/8,|p_3,3-p_0,3|+|q_0,3-q_3,3|<β/8 (7)

|p_0,0-q_0,0|<2.5t_c,|p_0,3-q_0,3|<2.5t_c (8)

p₀＝(p_2,0+2p_1,0+2p_0,0+2q_0,0+q_1,0+4)>>3 (9)

q₀＝(p_1,0+2p_0,0+2q_0,0+2q_1,0+q_2,0+4)>>3(10)

p₁＝(p_2,0+p_1,0+p_0,0+q_0,0+2)>>2(11)

q₁＝(p_0,0+q_0,0+q_1,0+q_2,0+2)>>2(12)

p₂＝(2p_3,0+3p_2,0+p_1,0+p_0,0+q_0,0+4)>>3(13)

q₂＝(p_0,0+q_0,0+q_1,0+3q_2,0+2q_3,0+4)>>3 (14)

|△|<10*t_c (15)

△＝(9*(q_0,0-p_0,0)-3*(q_1,0-p_1,0)+4)>>4(16)

p₀＝Clip1(p_0,0+△₁) (17)

q₀＝Clip1(q_0,0+△₁)(18)

△₁＝Clip3(-t_c,t_c,△)(19)

dp0+dp3<(β+(β>>1))>>3(20)

p₁＝Clip1(p_1,0+△p)(21)

△_p＝Clip3(-(t_c>>1),t_c>>1,(((p_2,0+p_0,0+1)>>1-p_1,0+△)>>1) (22)

dq0+dq3<(β+(β>>1))>>3(23)

△_q＝Clip3(-(t_c>>1),t_c>>1,(((q_2,0+q_0,0+1)>>1-q_1,0+△)>>1)(24)

q₁＝Clip1(q_1,0+△q)(25)

p₀＝Clip1(p_0,0+△₂) (26)

q₀＝Clip1(q_0,0+△₂) (27)

△₂＝Clip3(-t_c,t_c,((((q_0,0-p_0,0+1)<<2+p_1,0+q_1,0+4)>>3)) (28)

表1