[發明專利]一種基于決策樹的HEVC屏幕內容幀內快速編碼算法

有效

• 申請號: 201811020497.8
• 申請日: 2018-09-03
• 公開（公告）號: CN109040764B
• 公開（公告）日: 2021-09-28
• 發明（設計）人: 黃勝;司朋濤;肖傲;李萌芳;袁建國
• 申請（專利權）人: 重慶郵電大學
• 主分類號: H04N19/96
• 分類號: H04N19/96;H04N19/593;H04N19/105;H04N19/176
• 代理公司: 重慶輝騰律師事務所 50215
• 代理人: 王海軍

1.一種基于決策樹的HEVC屏幕內容幀內快速編碼算法，其特征在于：包括以下步驟：

1)對標準視頻測試序列進行特性分析，提取有效的特征值；

2)通過標準視頻測試序列的視頻幀的選擇，生成原始數據集作為訓練集，在此基礎上加以訓練完成決策樹，包括CU決策樹和PU決策樹；

3)讀取圖像，并將圖像分割為若干個CTU,在執行幀內編碼過程中，判斷當前CU是否為邊界CTU，如果是則執行標準算法完成編碼，否則進行步驟4)；

4)執行快速編碼，即在一定深度的決策樹中，通過對該層的特征值的計算完成當前CU的劃分與PU模式的選擇；

在快速算法中，CU從深度為0開始遍歷，如果深度為0，進行CU方差的計算，并按照方差大于α₀₁時執行快速劃分進入深度1，設置的標志位為split_Flag＝1且end_Flag＝0；在方差小于等于β₀₁時，執行快速終止，設置標志位有split_Flag＝0且end_Flag＝1，調用當前層對應的PU決策樹；對于不能滿足上述兩種情況者，設置標志位為split_Flag＝0且end_Flag＝0，執行相應層PU決策樹的調用，且進行深度加1；

如果當前CU深度為1，進行CU像素值的方差、梯度信息熵和像素顏色數的計算，對于標志位的設置與深度為0時方式相同；在像素種類數小于β₁₁且梯度信息熵小于等于β₁₂時，執行快速終止，并調用當前層對應的PU決策樹；在像素種類數大于α₁₁、方差大于等于α₁₂時，執行快速劃分進入深度2；兩者都不滿足時，執行PU決策樹調用，并進行深度加1；

如果當前CU深度為2，進行CU方差和CU像素顏色數的計算，對于標志位的設置與深度為0時方式相同；在像素種類數小于β₂₁、方差小于等于β₂₂時執行快速終止，并調用當前層對應的PU決策樹；否則執行PU決策樹，且深度加1

其余不滿足上述3層CU決策樹特征值判斷條件的情況，按照標準算法遍歷深度，即在當前層調用PU決策樹，且進行深度加1。

2.根據權利要求1所述的一種基于決策樹的HEVC屏幕內容幀內快速編碼算法，其特征在于：特征值包括CU像素值的方差CUD、平均非零梯度AveGDN、CU信息熵ent以及像素種類數CNum，其中CU信息熵包括梯度信息熵GDen和像素信息熵Pixen。

3.根據權利要求2所述的一種基于決策樹的HEVC屏幕內容幀內快速編碼算法，其特征在于，在CU決策樹中用到的特征值包括：CU像素值的方差CUD、梯度信息熵GDen和像素種類數CNum；對當前層CU的決策表現為劃分或不劃分，對應的在算法流程中表現為跳過或終止。

4.根據權利要求2所述的一種基于決策樹的HEVC屏幕內容幀內快速編碼算法，其特征在于，在PU決策樹中主要使用的特征值包括像素種類數CNum、平均非零梯度AveGDN、像素信息熵Pixen和梯度信息熵GDen，對當前層PU的決策表現為自然圖像塊NB和屏幕內容塊SB。