[發(fā)明專利]基于SATD復(fù)用的HEVC幀內(nèi)預(yù)測(cè)方法

有效

• 申請(qǐng)?zhí)枺?/td>: 201710240244.0
• 申請(qǐng)日: 2017-04-13
• 公開（公告）號(hào): CN107071474B
• 公開（公告）日: 2019-10-11
• 發(fā)明（設(shè)計(jì)）人: 李云松;朱哲;何剛
• 申請(qǐng)（專利權(quán)）人: 西安電子科技大學(xué)
• 主分類號(hào): H04N19/593
• 分類號(hào): H04N19/593
• 代理公司: 陜西電子工業(yè)專利中心 61205
• 代理人: 王品華;朱紅星

1.基于SATD復(fù)用的HEVC幀內(nèi)預(yù)測(cè)方法，是在已有的HEVC軟件測(cè)試平臺(tái)HM16.0的基礎(chǔ)上修改實(shí)現(xiàn)，其步驟包括如下：

(1)初始化：

創(chuàng)建4個(gè)256x35的二維數(shù)組MEM8，MEM16，MEM32，MEM64,這4個(gè)二維數(shù)組分別對(duì)應(yīng)一個(gè)CTU內(nèi)8x8，16x16，32x32，64x64層下的256個(gè)4x4塊的35種幀內(nèi)預(yù)測(cè)模式的可復(fù)用信息，每一個(gè)數(shù)組成員內(nèi)的數(shù)據(jù)為0或者1，1代表著該模式下該4x4小塊的預(yù)測(cè)結(jié)果能被復(fù)用，0代表不能復(fù)用；

創(chuàng)建5個(gè)有256個(gè)數(shù)組成員的一維數(shù)組COST4，COST8，COST16，COST32和COST64，用于保存計(jì)算得到的256個(gè)4x4塊在不同深度下的SATD的結(jié)果；

創(chuàng)建4個(gè)變量R1，R2，R3和R4，用來(lái)保存從4個(gè)二維數(shù)組MEM8，MEM16，MEM32，MEM64讀取出的當(dāng)前4x4塊的當(dāng)前模式可復(fù)用信息；

(2)將64x64的CTU以4x4大小為基本單元進(jìn)行分割，得到16x16的4x4塊陣列，并按照規(guī)定的Z字形的順序?qū)@些4x4塊進(jìn)行編號(hào)；

(3)根據(jù)4x4塊在CTU內(nèi)的具體位置，計(jì)算得到各層的可復(fù)用模式號(hào)，根據(jù)得到的可復(fù)用模式號(hào)給4個(gè)二維數(shù)組MEM8，MEM16，MEM32，MEM64中當(dāng)前4x4塊對(duì)應(yīng)的成員變量賦值；

所述根據(jù)4x4塊在CTU內(nèi)的具體位置，計(jì)算得到各層的可復(fù)用模式號(hào)，通過(guò)如下步驟進(jìn)行：

(3a)計(jì)算4x4層下預(yù)測(cè)模式的差值變換絕對(duì)值的和SATD能否復(fù)用到8x8層的復(fù)用條件：

如果當(dāng)前模式為縱向角度模式，則可復(fù)用條件為：

(y+1)*intraPredAngle[dir]+x+1＞nTbs，

如果當(dāng)前模式為橫向角度模式，則可復(fù)用條件為：

(x+1)*intraPredAngle[dir]+y+1＞nTbs，

其中，nTbs是當(dāng)前層塊寬度，dir是當(dāng)前預(yù)測(cè)模式對(duì)應(yīng)的角度值，intraPredAngle[dir]是該角度正切值的32倍，(x，y)是由4x4預(yù)測(cè)塊相對(duì)于8x8塊的位置決定的該4x4塊的關(guān)鍵像素的坐標(biāo)；

(3b)判斷當(dāng)前模式下(3a)中可復(fù)用條件是否成立，如果成立，則當(dāng)前模式是8x8層的可復(fù)用模式，否則，此模式不可復(fù)用；

(3c)重復(fù)步驟(3a)和(3b)，遍歷35種幀內(nèi)預(yù)測(cè)模式，篩選出35種模式中屬于8x8層的可復(fù)用模式，得到8x8層的所有可復(fù)用模式號(hào)；

(4)按照步驟(2)編號(hào)的順序，遍歷CTU內(nèi)所有位置的256個(gè)4x4塊，對(duì)每一個(gè)4x4塊進(jìn)行(3)的操作，直到將所有的數(shù)組成員賦值完成；

(5)對(duì)第一個(gè)4x4塊，根據(jù)其參考像素計(jì)算在4x4層下此預(yù)測(cè)塊的預(yù)測(cè)值，并與原始像素值作差，求得殘差像素，再計(jì)算該4x4塊的差值變換絕對(duì)值的和SATD，將該SATD保存到第一個(gè)一維數(shù)組COST4中；

(6)讀取第一個(gè)二維數(shù)組MEM8中當(dāng)前4x4塊對(duì)應(yīng)的35個(gè)變量值，作為跳過(guò)可復(fù)用模式的依據(jù)，若變量值為1，則跳過(guò)此變量代表的預(yù)測(cè)模式的遍歷；若變量值為0，則在此變量代表的預(yù)測(cè)模式下進(jìn)行預(yù)測(cè)，求得該模式下的4x4塊的差值變換絕對(duì)值的和SATD，并將計(jì)算結(jié)果保存到第二個(gè)一維數(shù)組COST8；

(7)重復(fù)步驟(6)，將16x16層，32x32層和64x64層中不可復(fù)用模式的差值變換絕對(duì)值的和SATD計(jì)算結(jié)果分別保存到第三個(gè)到第五個(gè)一維數(shù)組COST16，COST32和COST64中；

(8)從4個(gè)二維數(shù)組MEM8，MEM16，MEM32和MEM64中分別讀取出當(dāng)前模式對(duì)應(yīng)的數(shù)組成員，分別賦給步驟(1)中建立的四個(gè)變量R1，R2，R3和R4；

(9)根據(jù)四個(gè)變量R1，R2，R3和R4的值，判斷當(dāng)前模式下的差值變換絕對(duì)值的和SATD能否復(fù)用：

(9a)判斷當(dāng)前層數(shù)：

如果當(dāng)前層為4x4層，則執(zhí)行(9b)；如果當(dāng)前層為8x8層，則執(zhí)行(9c)；如果當(dāng)前層為16x16層，則執(zhí)行(9d)；如果當(dāng)前層為32x32層，則執(zhí)行(9e)；

(9b)根據(jù)R1的值判斷SATD能否復(fù)用到8x8層：若R1＝1，則將當(dāng)前模式的SATD保存到第二個(gè)一維數(shù)組COST8，并通過(guò)R2判斷能否復(fù)用到16x16層，執(zhí)行(9c)；否則，執(zhí)行(10)；

(9c)根據(jù)R2的值判斷SATD能否復(fù)用到16x16層：若R2＝1，則將當(dāng)前模式的SATD保存到第三個(gè)一維數(shù)組COST16，并通過(guò)R3判斷能否復(fù)用到32x32層，執(zhí)行(9d)；否則，執(zhí)行(10)；

(9d)根據(jù)R3的值判斷SATD能否復(fù)用到32x32層：若R3＝1，則將當(dāng)前模式的SATD保存到第四個(gè)一維數(shù)組COST32，并通過(guò)R4判斷能否復(fù)用到64x64層，執(zhí)行(9e)；否則，執(zhí)行(10)；

(9e)根據(jù)R4的值判斷SATD能否復(fù)用到64x64層：若R4＝1，則將當(dāng)前模式的SATD保存到第五個(gè)一維數(shù)組COST64，否則，執(zhí)行(10)；

(10)定義4x4層，8x8層，16x16層，32x32層和64x64層對(duì)應(yīng)的層數(shù)為0，1，2，3和4；根據(jù)當(dāng)前模式號(hào)、層數(shù)和塊編號(hào)，選擇進(jìn)入下一次遍歷：

(10a)如果模式號(hào)為34,則層數(shù)加1，執(zhí)行(10b)；否則，模式號(hào)加1，返回執(zhí)行(8)，進(jìn)入當(dāng)前層數(shù)下的下一個(gè)模式遍歷；

(10b)如果層數(shù)大于4，則4x4塊編號(hào)加1，執(zhí)行(10c)；否則，返回執(zhí)行(8)，進(jìn)入當(dāng)前4x4塊下一層的遍歷；

(10c)如果4x4塊編號(hào)大于256，則當(dāng)前CTU的幀內(nèi)預(yù)測(cè)過(guò)程結(jié)束；否則，返回步驟(5)，進(jìn)入下一個(gè)4x4塊的遍歷。