[發(fā)明專(zhuān)利]一種基于空間相關(guān)度的多變換核快速處理方法

有效

• 申請(qǐng)?zhí)枺?/td>: 202010127282.7
• 申請(qǐng)日: 2020-02-28
• 公開(kāi)（公告）號(hào): CN111263158B
• 公開(kāi)（公告）日: 2021-11-16
• 發(fā)明（設(shè)計(jì)）人: 張昊;馬學(xué)睿;馮冰雪;鐘培雄;姜俊宏;蘇昊天
• 申請(qǐng)（專(zhuān)利權(quán)）人: 中南大學(xué)
• 主分類(lèi)號(hào): H04N19/176
• 分類(lèi)號(hào): H04N19/176;H04N19/593;H04N19/11;H04N19/147;H04N19/60;H04N19/61;H04N19/154
• 代理公司: 廣州嘉權(quán)專(zhuān)利商標(biāo)事務(wù)所有限公司 44205
• 代理人: 肖云

1.一種基于空間相關(guān)度的多變換核快速處理方法，其特征在于，所述基于空間相關(guān)度的多變換核快速處理方法為：根據(jù)周?chē)鶦U塊的MTS信息跳過(guò)當(dāng)前CU塊的MTS執(zhí)行過(guò)程，包括以下步驟：

S1：對(duì)當(dāng)前CU執(zhí)行幀內(nèi)編碼流程；

S2：遍歷67種預(yù)測(cè)模式，跳過(guò)VVC中的32種角度模式，只對(duì)HEVC中存在的35種模式進(jìn)行SATD值的計(jì)算，將SATD值從小到大排序，從中選出SATD值較小的前N個(gè)模式存入模式列表，其中N的大小由查表得到；

S3：遍歷步驟S2選出的模式，若模式編號(hào)屬于2～66，則比較每種模式與其相鄰的兩個(gè)模式的SATD值，從中選出SATD值最小的一個(gè)模式，更新模式列表，得到第一次更新的模式列表；

S4：構(gòu)建MPM列表并遍歷MPM列表中的6種模式，計(jì)算6種模式的SATD值，并與步驟S3中的模式列表中的SATD值比較，選擇SATD值較小的模式，更新模式列表，得到第二次更新的模式列表；

S5：執(zhí)行MIP模塊，用哈達(dá)瑪變換導(dǎo)出MIP的候選模式，并將MIP的MPM模式添加到模式列表，得到第三次更新的模式列表；

S6：執(zhí)行ISP模塊，更新模式列表，得到第四次更新的模式列表，即用于執(zhí)行后續(xù)流程的模式列表；

S7：獲取第四次更新的模式列表中的第一個(gè)模式，計(jì)算得到在使用該預(yù)測(cè)模式情況下當(dāng)前CU的預(yù)測(cè)值；

S8：將當(dāng)前CU的原始像素值減去由步驟S7得到的預(yù)測(cè)值，得到原始像素值與預(yù)測(cè)值的殘差值；

S9：對(duì)步驟S8得到的殘差值執(zhí)行變換模塊，首先以MTS標(biāo)志位為0進(jìn)行變換，將變換之后的值執(zhí)行量化、反量化和反變換操作，得到重構(gòu)像素值；

S10：計(jì)算使用步驟S9的變換核時(shí)的R-Dcost值，公式為：

J＝D+λ*R，

其中，D是指失真值，λ為編碼器設(shè)定數(shù)值，R為編碼當(dāng)前CU所使用的比特?cái)?shù)值，J為最終計(jì)算得到的R-Dcost值；

S11：獲取周?chē)鶦U塊的MTS標(biāo)志位以及MTS候選索引，若周?chē)鷫K選擇的最優(yōu)模式存在以下兩種情況之一，則執(zhí)行步驟S12；第一種情況：周?chē)鷫K選擇的最優(yōu)模式都是MTS標(biāo)志位為0的情況；第二種情況：周?chē)鷫K選擇的最優(yōu)模式既存在MTS標(biāo)志位為0又存在MTS標(biāo)志位為1且MTS候選索引為0的情況；

S12：選擇MTS標(biāo)志位為1并且MTS候選索引為0時(shí)的變換核執(zhí)行變換模塊，將變換之后的值執(zhí)行量化、反量化和反變換操作得到重構(gòu)像素值，重復(fù)執(zhí)行步驟S10，將得到的R-Dcost值與步驟S10得到的R-Dcost值對(duì)比，選擇R-Dcost最小時(shí)對(duì)應(yīng)的MTS的標(biāo)志位及其索引值作為最優(yōu)的MTS選擇，并跳過(guò)執(zhí)行當(dāng)MTS標(biāo)志位為1時(shí)，選擇其他所有的MTS候選索引作為變換核的變換模塊以及后續(xù)的量化、反量化和反變換以及步驟S10的操作；

S13：將步驟S6中確定的模式列表中的所有模式循環(huán)執(zhí)行步驟S7至步驟S12，比較每個(gè)模式的R-Dcost，選擇R-Dcost最小的模式作為最優(yōu)模式，完成幀內(nèi)模式選擇；

步驟S11中，若周?chē)鷫K選擇的最優(yōu)模式不都是MTS標(biāo)志位為0或者最優(yōu)模式只存在MTS標(biāo)志位為0以及MTS標(biāo)志位為1且MTS候選索引為0兩種情況，則執(zhí)行以下步驟：

循環(huán)選擇MTS標(biāo)志位為1且MTS候選索引為0以及周?chē)?個(gè)CU塊選擇的最優(yōu)模式中存在的MTS標(biāo)志位為1時(shí)所選擇的MTS候選索引時(shí)的變換核執(zhí)行變換模塊，即如果周?chē)?個(gè)CU塊，只存在兩種情況，有部分CU塊的最優(yōu)模式是選擇MTS標(biāo)志位為1且選擇的MTS候選索引為2作為變換核，剩余CU塊的最優(yōu)模式選擇MTS標(biāo)志位為1且選擇的MTS候選索引為3作為變換核，需要循環(huán)選擇MTS標(biāo)志位為1且MTS候選索引為0、MTS標(biāo)志位為1且MTS候選索引為2以及MTS標(biāo)志位為1且MTS候選索引為3作為變換核進(jìn)行變化模塊，并分別將變換之后的值執(zhí)行量化、反量化、反變換操作，得到重構(gòu)像素值，并執(zhí)行步驟S10，由此分別得到R-Dcost值，循環(huán)所有情況后將得到的R-Dcost值進(jìn)行對(duì)比，選擇R-Dcost值最小時(shí)對(duì)應(yīng)的MTS的標(biāo)志位及其索引值作為最優(yōu)的MTS選擇，從而跳過(guò)了選擇MTS標(biāo)志位為1且選擇的MTS候選索引為1作為變換核執(zhí)行變換模塊的情況。

2.根據(jù)權(quán)利要求1所述的基于空間相關(guān)度的多變換核快速處理方法，其特征在于，步驟S9中，以MTS標(biāo)志位為0進(jìn)行變換，變換方式使用的是離散余弦變換Type 2。