[發明專利]基于CU紋理復雜度的CU子劃分

在審

• 申請號: 202010578401.0
• 申請日: 2020-06-23
• 公開（公告）號: CN111885383A
• 公開（公告）日: 2020-11-03
• 發明（設計）人: 張萌萌;劉志;岳文
• 申請（專利權）人: 北京工業職業技術學院
• 主分類號: H04N19/119
• 分類號: H04N19/119;H04N19/593;H04N19/147;H04N19/96;H04N19/70
• 代理公司: 北京同立鈞成知識產權代理有限公司 11205
• 代理人: 朱穎;劉芳

提供了一種基于編碼單元(CU)的紋理復雜度進行CU子劃分的方法，所述方法包括：在對當前CU進行亮度幀內預測之前，計算當前CU的紋理復雜度值；如果所述紋理復雜度值大于閾值，則：如果所述當前CU的大小為4x8(或8x4)，則將所述當前CU劃分為兩個4x4的子劃分；或者如果所述當前CU的大小大于4x8(或8x4)且小于等于64×64，則將所述當前CU劃分為4個子劃分，其中每個子劃分至少包含16個像素；或者如果所述當前CU的大小大于64×64，則不對所述當前CU進行進一步子劃分；或者如果所述紋理復雜度值小于等于所述閾值，則不對所述當前CU進行進一步子劃分，其中，如果確定對所述當前CU進行進一步子劃分，則設置用于所述當前CU的CU子劃分標志。還提供了相應的解碼方法。

技術領域

本發明涉及圖像與視頻處理領域，更具體而言，涉及在多功能視頻編碼(VVC)中基于CU紋理復雜度進行CU子劃分的方法、裝置和計算機程序產品。

背景技術

2010年4月，兩大國際視頻編碼標準組織VCEG和MPEG成立視頻壓縮聯合小組JCT-VC(Joint collaborative Team on Video Coding)，一同開發高效視頻編碼HEVC(Highefficiency video coding)標準，其也稱為H.265。HEVC標準的第一版已經在2013年的一月份完成。并于2013年4月、2014年10月和2015年4月相繼發布的3個版本，這些版本能夠很容易地從網絡上獲得，并且本申請將上述HEVC標準的三個版本并入本說明書中作為本發明的背景技術。

HEVC提出了全新的語法單元：編碼單元(CU)是進行預測、變換、量化和熵編碼的基本單元，預測單元(PU)是進行幀內幀間預測的基本單元，變換單元(TU)是進行變換和量化的基本單元。另外，每個CU定義了共享相同預測模式(幀內或幀間)的區域。

如圖1所示，在HEVC中，可以進行幀內預測模式和幀間預測模式的切換。在幀內預測模式和幀間預測模式中，HEVC都采用編碼樹單元(CTU)的編碼結構，CTU是HEVC編解碼的基本處理單元。CTU由1個亮度CTB、2個色度CTB和相應的語法元素組成。圖2顯示了在一個LCU(最大編碼單元)編碼后的CTU結構。在HEVC中，LCU可以只包含一個編碼單元(CU)，也可以使用CTU四叉樹結構劃分出為不同大小的CU。

HEVC中有四種大小CU，大小分別為：64x64、32x32、16x16和8x8。CU塊越小，其在CTU樹中位置越深。當CU為64x64、32x32和16x16時稱為2Nx2N模式(表示可以劃分為更小的CU)，當CU為8x8時稱為NxN模式(表示不可以進行進一步劃分)。對于幀內預測，CU被分成兩個PartMode(2Nx2N和NxN)，這取決于它是否可以被分成更小的CU。尺寸為64x64、32x32和16x16的CU屬于2N×2N，尺寸為8×8的CU屬于N×N。

在HEVC中，PU進行幀內幀間預測的基本單元，PU的劃分是以CU為基礎的，具有五種規則大小64x64、32x32、16x16、8x8和4x4。更具體地，PU尺寸基于PartMode：對于2N×2N的PartMode PU尺寸與CU相同，對于N×N的PartMode CU可以被劃分為四個4×4子PU。對于2N*2N的CU模式，幀內預測PU的可選模式包括2N*2N和N*N，幀間預測PU的可選模式有8種，包括4種對稱模式(2N*2N，N*2N，2N*N，N*N)和4種非對稱模式(2N*nU，2N*nD，nL*2N，nR*2N)，其中，2N*nU和2N*nD分別以上下1:3、3:1的比例劃分，nL*2N和nR*2N分別以左右1:3、3:1的比例劃分。

在HEVC中，仍然繼續使用H.264/AVC的拉格朗日率失真優化(RDO)進行模式選擇，為每一個幀內模式計算其RDO：

J＝D+λR

其中，J為拉格朗日代價(亦即RD-cost)，D表示當前幀內模式的失真，R表示編碼當前預測模式下所有信息所需的比特數，λ為拉格朗日因子。其中D通常使用絕對哈達瑪變換差之和(SATD)來實現。