[發明專利]一種基于模式預處理的幀內編碼優化方法和系統

有效

• 申請號: 201310729173.2
• 申請日: 2013-12-25
• 公開（公告）號: CN103702131B
• 公開（公告）日: 2017-02-15
• 發明（設計）人: 劉振宇;朱佳;汪東升
• 申請（專利權）人: 清華大學;華為技術有限公司
• 主分類號: H04N19/85
• 分類號: H04N19/85;H04N19/61
• 代理公司: 北京路浩知識產權代理有限公司11002
• 代理人: 李迪

技術領域

本發明涉及視頻處理技術領域，具體涉及一種基于模式預處理的幀內編碼優化方法和系統。

背景技術

高效率視頻編碼（HEVC，High?Efficiency?Video?Coding）是繼H.264/AVC標準之后較流行的編碼標準。為了妥善處理高清、超高清分辨率下的圖像序列，HEVC提出了一種復合編碼單元（CTU，coding?tree?unit）。一幀完整的圖像，無論其分辨率大小，在其編碼開始時，均會被分割為由64×64亮度像素點陣及與其對應的色度像素點陣組成的編碼樹單元CTU，此后再以CTU為單位，依次進行編碼。因為色度編碼與亮度相似，復雜度較亮度簡單，因此，關于HEVC編碼復雜度的討論，一般集中于其亮度分量的編碼。CTU在編碼過程中，進一步被分割為編碼塊(CU，coding?unit），預測塊(PU，prediction?unit)和變換塊(TU，transform?unit)。在HEVC中，CTU的分割是在編碼、預測和變換階段，依其意義，采用不同的分割，形成CU/PU/TU的分割組合。CU的具體劃分，均采用了四叉樹分層遞歸的策略。CU分割四叉樹的根節點是最大編碼塊，與CTU大小一致，通常為64×64。而最細小的分割，則由8×8像素點陣組成，即最小編碼塊。在最大編碼塊與最小編碼塊之間，則采用分層分割的方式，每層將2N×2N大小的CU分割為4個N×N大小的CU。PU的大小與相應CU相同，其內容因預測模式而異。預測模式一共有35個，直流（DC,Direct?Circuit）預測，平面（planer）預測，和33個方向預測。預測階段，即是從35個預測模式中選取最優的一個，從而確定PU，進行下一步編碼。TU的劃分采用與CU劃分相同的策略，其作用是在變換階段對某一CU/PU模式組合所確定的殘差進行最優變換，即對于確定的殘差矩陣，尋找最佳的分割方式，以最大程度通過變換去除信息冗余，使得變換后所需要編碼的信息量最少。CU/PU/TU三者的組合，構成了候選模式向量，以表示之。HEVC編碼中模式預測的搜索過程，即是以尋找最小編碼代價為原則遍歷所有組合。在候選模式向量下的編碼代價，以J表示之，是以圖像領域通行的失真率代價(RD-Cost，Rate?Distortion?Cost)函數來獲得，如下式所示：

J(p→)=D(p→)+λ·R(p→),]]>

其中，是在模式向量下，由熵編碼技術獲得的碼率，是在模式向量下的編碼失真率，由像素矩陣的重建值與原始值之差獲得，λ是拉格朗日因子，用來控制在與所占的權重。

與的準確計算，不可避免得需要執行編碼與重建過程。編碼過程主要包括塊預測，殘差能量計算，二維變換，量化；而重建主要包括反量化，二維逆變換，重建值計算等。其中殘差能量PE_k是編碼塊像素值C_k與預測塊像素值P_k之差的平方，即

PE_k＝(P_k-C_k)²，

其中，k＝i×N+j，表示N×N塊中第i行，第j列的像素值。而量化過程所依據的量化步長Qs只與編碼器參數Qp有關，如下式所示：

其中，表示向下取整操作，%表示模操作。

編碼器必須耗費巨大時間與功耗，執行變換、量化、反量化，反變換，熵編碼等過程，從而獲取與的準確值。而模式向量的遍歷過程，讓復雜度倍增。倍增倍數與CU/PU/TU的模式組合數有關。而CU/PU/TU的模式組合數絕大部分取決于CU的個數，大量實驗表明，編碼復雜度隨著CU四叉樹深度的增加而劇烈增長。