[發明專利]率失真優化量化方法、裝置、電子設備及存儲介質

在審

• 申請號: 202310271484.2
• 申請日: 2023-03-14
• 公開（公告）號: CN116418989A
• 公開（公告）日: 2023-07-11
• 發明（設計）人: 張鵬;趙加琛;向國慶;嚴偉
• 申請（專利權）人: 杭州未名信科科技有限公司;浙江省北大信息技術高等研究院
• 主分類號: H04N19/147
• 分類號: H04N19/147;H04N19/124;H04N19/176;H04N19/18
• 代理公司: 北京辰權知識產權代理有限公司 11619
• 代理人: 孔垂超

1.一種率失真優化量化方法，其特征在于，包括：

針對變換塊的系數組，獲取所述系數組的尺寸；

根據所述系數組的尺寸，采用與所述尺寸相對應的預設并行處理方式獲取率失真優化量化后的系數矩陣。

2.根據權利要求1所述的方法，其特征在于，所述根據所述系數組的尺寸，采用與所述尺寸相對應的預設并行處理方式獲取率失真優化量化后的系數矩陣，包括：

若所述系數組尺寸大于2×2，則針對所述變換塊的系數組設置互相平行的多條掃描線，所述多條掃描線的每兩條相鄰掃描線方向相反，所述系數組中的每一系數唯一關聯于一條掃描線；

將所述系數組按列分別送入系數組處理模塊中進行并行處理；

根據所述掃描線與每一所述系數之間的關聯關系獲取率失真優化量化后的系數矩陣。

3.根據權利要求2所述的方法，其特征在于，所述根據所述掃描線與每一所述系數之間的關聯關系獲取率失真優化量化后的系數矩陣，包括：

對系數組的數據并行進行預量化計算，得到預量化系數；

對預量化系數與碼率估計得到的碼率進行乘加操作決策出最優量化系數存入寄存器中，決策出的最優量化系數進行決策最后非零系數位置操作；

當所有的掃描線數據處理完畢，將得到的位置信息與寄存器中存儲的最優量化系數進行置零操作，得到率失真優化量化后的系數矩陣。

4.根據權利要求3所述的方法，其特征在于，所述決策最后非零系數位置操作包括：

在多條掃描線中并行處理，決策掃描線當前最優的最后非零系數位置；

每當一條掃描線的數據處理結束，該掃描線的最后非零系數位置已確定時，更新全局的最后非零系數，將掃描線內部保存的數據通過移位寄存器進行數據的累加和傳遞。

5.根據權利要求3所述的方法，其特征在于，所述預量化計算為原始系數加上縮放系數后進行移位操作。

6.根據權利要求1所述的方法，其特征在于，所述根據所述系數組的尺寸，采用與所述尺寸相對應的預設并行處理方式獲取率失真優化量化后的系數矩陣，包括：

若所述系數組尺寸為2×2，則將所述變換塊的系數組分別送入四個系數組處理模塊中進行并行處理，獲得率失真優化量化后的系數矩陣。

7.根據權利要求6所述的方法，其特征在于，所述將所述變換塊的系數組分別送入四個系數組處理模塊中進行并行處理，獲得率失真優化量化后的系數矩陣，包括：

對所述變換塊的系數組進行預先標準量化處理，得到預量化處理后的系數矩陣；

對所述預量化處理后的系數矩陣進行最優系數調整決策，得到最優量化系數矩陣；

獲取所述最優量化系數矩陣中的率失真代價小于預設閾值的非零系數的位置信息；

根據所述位置信息去除所述率失真代價小于預設閾值的非零系數以及所述非零系數之后的系數，得到所述率失真優化量化后的系數矩陣。

8.根據權利要求7所述的方法，其特征在于，所述對所述變換塊的系數組進行預先標準量化處理，得到預量化處理后的系數矩陣，包括：

對所述變換塊的系數組加上縮放系數進行移位操作，得到所述預量化處理后的系數矩陣。

9.根據權利要求7所述的方法，其特征在于，所述對所述預量化處理后的系數矩陣進行最優系數調整決策，得到最優量化系數矩陣，包括：

所述最優系數決策單元對所述預量化處理后的系數矩陣與碼率進行乘加操作決策出最優量化系數，得到所述最優量化系數矩陣。

10.根據權利要求1所述的方法，其特征在于，所述針對變換塊的系數組，獲取所述系數組的尺寸，包括：

針對變換塊的系數組，計算所述系數組的方差；

根據所述系數組的方差，確定所述系數組的尺寸。