[發(fā)明專(zhuān)利]一種基于深度學(xué)習(xí)的HEVC幀內(nèi)預(yù)測(cè)編碼的方法

在審

• 申請(qǐng)?zhí)枺?/td>: 201910090435.2
• 申請(qǐng)日: 2019-01-30
• 公開(kāi)（公告）號(hào): CN109714596A
• 公開(kāi)（公告）日: 2019-05-03
• 發(fā)明（設(shè)計(jì)）人: 曹俊
• 申請(qǐng)（專(zhuān)利權(quán)）人: 江蘇允博信息科技有限公司
• 主分類(lèi)號(hào): H04N19/147
• 分類(lèi)號(hào): H04N19/147;H04N19/103;H04N19/107;H04N19/176;H04N19/51;H04N19/503;H04N19/593
• 代理公司: 暫無(wú)信息
• 代理人: 暫無(wú)信息

本發(fā)明涉及一種基于深度學(xué)習(xí)的HEVC幀內(nèi)預(yù)測(cè)編碼的方法，通過(guò)率失真優(yōu)化(RDO)決策自適應(yīng)地選擇是否使用所述幀內(nèi)幀間組合預(yù)測(cè)；幀內(nèi)幀間組合預(yù)測(cè)使用幀內(nèi)預(yù)測(cè)塊和幀間預(yù)測(cè)塊加權(quán)的方法得到最終預(yù)測(cè)塊；幀內(nèi)預(yù)測(cè)塊和幀間預(yù)測(cè)塊的加權(quán)系數(shù)根據(jù)預(yù)測(cè)方法的預(yù)測(cè)失真統(tǒng)計(jì)得到。由此能能夠減小預(yù)測(cè)塊總體失真，增加預(yù)測(cè)精度，從而提升預(yù)測(cè)塊的編碼效率。

技術(shù)領(lǐng)域

本發(fā)明通常涉及數(shù)字視頻信號(hào)處理，尤其涉及一種基于深度學(xué)習(xí)的HEVC幀內(nèi)預(yù)測(cè)編碼的方法。

背景技術(shù)

在視頻編碼中，幀內(nèi)預(yù)測(cè)和幀間預(yù)測(cè)是非常有效的工具，可以去除視頻序列中的冗余信息。具體來(lái)說(shuō)，幀間預(yù)測(cè)利用當(dāng)前幀與其參考幀之間的相關(guān)性減小時(shí)域冗余，而幀內(nèi)預(yù)測(cè)利用空間相鄰像素點(diǎn)之間的相似性消除空域冗余。

在現(xiàn)在編碼標(biāo)準(zhǔn)中，幀內(nèi)預(yù)測(cè)和幀間預(yù)測(cè)相互獨(dú)立。幀內(nèi)預(yù)測(cè)被用于幀內(nèi)預(yù)測(cè)幀(I幀)或是幀間預(yù)測(cè)幀中的幀內(nèi)預(yù)測(cè)塊，而幀間預(yù)測(cè)只能用在幀間預(yù)測(cè)幀中(前向預(yù)測(cè)幀P幀或是雙向預(yù)測(cè)幀B幀)。

上述預(yù)測(cè)技術(shù)主要存在的缺陷是：現(xiàn)有幀內(nèi)預(yù)測(cè)和幀間預(yù)測(cè)方法相互獨(dú)立，并沒(méi)有綜合考慮幀內(nèi)預(yù)測(cè)和幀間預(yù)測(cè)的優(yōu)勢(shì)和缺陷，只是通過(guò)編碼端決策選擇最優(yōu)的預(yù)測(cè)模式，無(wú)法更好的發(fā)揮兩種預(yù)測(cè)方法的優(yōu)勢(shì)，因此在一定程度上局限了預(yù)測(cè)的性能。

發(fā)明內(nèi)容

為了克服上述現(xiàn)有技術(shù)的不足，本發(fā)明提供一種基于深度學(xué)習(xí)的HEVC幀內(nèi)預(yù)測(cè)編碼的方法，用以有效地減小預(yù)測(cè)塊失真，提升預(yù)測(cè)塊的預(yù)測(cè)精度。

本發(fā)明提供的技術(shù)方案是：

一種基于深度學(xué)習(xí)的HEVC幀內(nèi)預(yù)測(cè)編碼的方法，通過(guò)率失真優(yōu)化(RDO)決策自適應(yīng)地選擇是否使用所述幀內(nèi)幀間組合預(yù)測(cè)；幀內(nèi)幀間組合預(yù)測(cè)使用幀內(nèi)預(yù)測(cè)塊和幀間預(yù)測(cè)塊加權(quán)的方法得到最終預(yù)測(cè)塊；幀內(nèi)預(yù)測(cè)塊和幀間預(yù)測(cè)塊的加權(quán)系數(shù)根據(jù)預(yù)測(cè)方法的預(yù)測(cè)失真統(tǒng)計(jì)得到；由此能夠增加預(yù)測(cè)精度，提升預(yù)測(cè)塊的編碼效率；

針對(duì)幀內(nèi)模式預(yù)測(cè)，首先在編碼端對(duì)每一個(gè)編碼單元進(jìn)行率失真優(yōu)化，執(zhí)行如下操作：

S1.對(duì)一個(gè)編碼單元進(jìn)行幀內(nèi)預(yù)測(cè)；

S2.對(duì)該編碼單元進(jìn)行幀間預(yù)測(cè)；

S3.對(duì)幀內(nèi)預(yù)測(cè)和幀間預(yù)測(cè)進(jìn)行加權(quán)平均，得到幀內(nèi)幀間組合預(yù)測(cè)塊；

S4.通過(guò)率失真優(yōu)化(RDO)決策確定是否使用基于深度學(xué)習(xí)的HEVC幀內(nèi)預(yù)測(cè)編碼的方法；每一個(gè)編碼單元中均傳輸一個(gè)組合預(yù)測(cè)標(biāo)記到碼流中，用于標(biāo)識(shí)是否使用了基于深度學(xué)習(xí)的HEVC幀內(nèi)預(yù)測(cè)編碼的方法；

S5.所述基于深度學(xué)習(xí)的HEVC幀內(nèi)預(yù)測(cè)編碼的方法表示為式1：

RdCost＝lambda*Distortion+Rate，，

其中Rate為所需碼字，lambda為損失Distortion的權(quán)重系數(shù)。

最終選擇RdCost最小的預(yù)測(cè)模式作為最佳預(yù)測(cè)模式；

優(yōu)選的，所述組合預(yù)測(cè)標(biāo)記為1-bit的標(biāo)記。

優(yōu)選的，對(duì)加權(quán)系數(shù)進(jìn)行簡(jiǎn)化或使用以行或列為單位的加權(quán)系數(shù)，以節(jié)約存儲(chǔ)加權(quán)系數(shù)的空間。

優(yōu)選的，將浮點(diǎn)加權(quán)系數(shù)轉(zhuǎn)換為整數(shù)，并在加權(quán)之后進(jìn)行右移操作，以避免進(jìn)行浮點(diǎn)計(jì)算；

具體地，將加權(quán)系數(shù)乘以2的m次冪，加權(quán)計(jì)算之后再將預(yù)測(cè)值右移m位；將式1轉(zhuǎn)化為整數(shù)計(jì)算后表示為式4：

P′comb(x,y)＝(2m·Wintra(x,y)·Pintra(x,y)+(2m-2m·Wintra(x,y))·Pinter(x,y)+2m-1)>>m，

其中，m的取值與計(jì)算精度相關(guān)，所需的精度越高則m值越大，計(jì)算結(jié)果越準(zhǔn)確。