[發明專利]一種率失真優化量化的方法、裝置、存儲介質及終端

在審

• 申請號: 202110572398.6
• 申請日: 2021-05-25
• 公開（公告）號: CN113573056A
• 公開（公告）日: 2021-10-29
• 發明（設計）人: 向國慶;徐錦暢;張鵬;張廣耀;嚴韞瑤;宋磊
• 申請（專利權）人: 杭州博雅鴻圖視頻技術有限公司
• 主分類號: H04N19/124
• 分類號: H04N19/124;H04N19/147
• 代理公司: 北京辰權知識產權代理有限公司 11619
• 代理人: 李小朋

1.一種率失真優化量化的方法，其特征在于，所述方法包括：

根據待量化變換塊生成預量化系數集合；

從預量化系數集合中獲取第n位預量化系數，并生成第n位預量化系數的第一備選系數、第二備選系數以及第三備選系數；

其中，所述第一備選系數等于所述第n位預量化系數，所述第二備選系數為所述預量化系數集合中所述第n位預量化系數的n-1位預量化系數，所述第三備選系數為0；

根據所述第n位預量化系數的第n-1位預量化系數計算所述第一備選系數、第二備選系數以及第三備選系數各自的索引，并基于所述各自的索引從預設碼率表格中查找所述第一備選系數、第二備選系數以及第三備選系數各自的碼率，生成第一碼率、第二碼率以及第三碼率；

根據所述第一碼率、第二碼率以及第三碼率計算所述第一備選系數、第二備選系數以及第三備選系數各自的率失真代價，并將最小率失真代價的備選系數確定為所述第n位的最優量化系數；

繼續執行所述從所述預量化系數集合中獲取第n位預量化系數的步驟，直到所述預量化系數集合中各預量化系數遍歷結束時生成最優量化系數集合；

其中，所述從所述預量化系數集合中獲取第n位預量化系數的公式為：n＝k，k為獲取次數；

基于所述最優量化系數集合確定所述待量化變換塊的量化結果。

2.根據權利要求1所述的方法，其特征在于，所述根據待量化變換塊生成預量化系數集合，包括：

獲取待量化變換塊，并將所述待量化變換塊中各像素的殘差系數變換后生成變換系數集合；

預量化所述變換系數集合中每個變換系數，生成預量化系數集合。

3.根據權利要求2所述的方法，其特征在于，所述獲取待量化變換塊，包括：

根據預設第一尺寸對待編碼圖像進行劃分，生成多個編碼單元；

從所述多個編碼單元中確定目標編碼單元；

根據預設第二尺寸將所述目標編碼單元進行劃分，生成多個變換塊；

從所述多個變換塊中獲取待量化變換塊；

其中，所述第二尺寸小于所述第一尺寸。

4.根據權利要求1所述的方法，其特征在于，基于所述最優量化系數集合確定所述待量化變換塊的量化結果，包括：

剔除所述最優量化系數集合中量化系數為0的量化系數，生成非零量化系數集合；

計算所述非零量化系數集合中各非零量化系數對應的率失真代價，并將率失真代價最小的非零量化系數確定為目標系數；

根據所述目標系數進行Z字形坐標掃描，生成多個非零系數坐標；

基于所述多個非零系數坐標確定所述待量化變換塊的量化結果。

5.根據權利要求4所述的方法，其特征在于，所述基于所述多個非零系數坐標確定所述待量化變換塊的量化結果，包括：

獲取所述多個非零系數坐標各自的系數；

從所述多個非零系數坐標各自的系數中獲取大于所述目標系數的非零系數坐標對應的系數；

將獲取的所述大于所述目標系數的非零系數坐標對應的系數置零；

生成待量化變換塊的量化結果。

6.根據權利要求1所述的方法，其特征在于，所述根據所述第n位預量化系數的第n-1位預量化系數計算所述第一備選系數、第二備選系數以及第三備選系數各自的索引的公式為：

idx＝min((q_i-1-1),5)＜＜1+(ch_type＝＝Y_C)？0:12

其中，min為取最小值操作，q_i-1為所述第n位預量化系數的第n-1位預量化系數，chtype為待量化變換塊的通道類型，Yc表示亮度。

7.一種視頻圖像的編碼方法，其特征在于，所述方法包括：

根據預設尺寸對待編碼視頻圖像進行劃分，生成多個編碼單元；

針對所述多個編碼單元中每個編碼單元進行預測、變換和如權利要求1-6中任一項所述的率失真優化量化的方法進行量化，生成每個編碼單元的值；

對所述每個編碼單元的值進行熵編碼以及圖像重構，生成編碼后的視頻圖像。