[發明專利]基于DCT的HEVC快速幀內模式決策算法

在審

• 申請號: 201710632169.2
• 申請日: 2017-07-28
• 公開（公告）號: CN107396130A
• 公開（公告）日: 2017-11-24
• 發明（設計）人: 劉昱;方誠
• 申請（專利權）人: 天津大學
• 主分類號: H04N19/61
• 分類號: H04N19/61;H04N19/625;H04N19/176;H04N19/147;H04N19/11
• 代理公司: 天津市北洋有限責任專利代理事務所12201
• 代理人: 李素蘭

1.一種基于DCT的HEVC快速幀內模式決策算法，其特征在于，該算法包括以下步驟：

步驟一、輸入原始待預測塊，對原始待預測塊做DCT變換，提取出紋理特征信息，DCT變換公式如下：

ACu,v=CuCv2N×NΣi=0N-1Σj=0N-1f(i,j)cos(2i+1)uπ2N]]>

其中，AC_u,v表示位于第i行第j列的DCT系數，u表示二維波的水平方向頻率，v表示二維波的垂直方向頻率，C_u和C_v表示與u，v相關的參數，N表示方陣的大小，π表示圓周率；

步驟二、計算待預測塊紋理方向與水平方向的方向角θ，公式如下：

θ=arctanEvEh]]>

E_v、E_h分別表示原始待預測塊具有垂直或水平紋理特征的可能性，計算公式如下：

Ev=Σv=0N-1|F(0,v)|]]>

Eh=Σu=0N-1|F(u,0)|]]>

其中，F(u,v)為DCT系數；

并且，把此方向角區間離散化以對應匹配33種角度預測模式，各角度預測模式下對應各預測方向角度，表達公式如下：

步驟三、為彌補紋理計算方法所得紋理方向的誤差，構建起一個候選模式集CandiModeListForRMD；該模式集不僅包括紋理方向預測模式，還包括以該模式為中心的相鄰的M-1個角度預測模式；另外將DC模式和Planar模式被放入候選模式集中；

步驟四、使得候選模式集CandiModeListForRMD中的模式，即紋理方向預測模式和以該模式為中心的相鄰的M-1個角度預測模式共M個模式，進入粗略模式決策階段；粗略模式決策階段中程序會遍歷該候選模式集中的所有模式，得出各模式對應的代價值，選出前N個對應代價值最小的模式，放入候選模式集CandiModeListForRDO；

步驟五、將三個MPMs模式也放入候選模式集CandiModeListForRDO中，保證相鄰待預測塊的連續性和一致性；

步驟六、候選模式集CandiModeListForRDO中的模式，即步驟四中的前N個對應代價值最小的模式以及步驟五中三個MPMs模式，進入率失真優化階段；率失真優化階段程序會對所有模式求取相應的率失真代價值，對應率失真代價值最小的幀內預測模式即為該待預測塊的最優幀內預測模式。