[發(fā)明專利]一種率失真優(yōu)化量化的方法、裝置、存儲(chǔ)介質(zhì)及終端

在審

• 申請(qǐng)?zhí)枺?/td>: 202110572398.6
• 申請(qǐng)日: 2021-05-25
• 公開(kāi)（公告）號(hào): CN113573056A
• 公開(kāi)（公告）日: 2021-10-29
• 發(fā)明（設(shè)計(jì)）人: 向國(guó)慶;徐錦暢;張鵬;張廣耀;嚴(yán)韞瑤;宋磊
• 申請(qǐng)（專利權(quán)）人: 杭州博雅鴻圖視頻技術(shù)有限公司
• 主分類號(hào): H04N19/124
• 分類號(hào): H04N19/124;H04N19/147
• 代理公司: 北京辰權(quán)知識(shí)產(chǎn)權(quán)代理有限公司 11619
• 代理人: 李小朋

本發(fā)明公開(kāi)了一種率失真優(yōu)化量化的方法，包括：根據(jù)待量化變換塊生成預(yù)量化系數(shù)集合；從預(yù)量化系數(shù)集合中獲取第n位預(yù)量化系數(shù)，并生成第n位預(yù)量化系數(shù)的三個(gè)備選系數(shù)；根據(jù)第n位預(yù)量化系數(shù)的第n?1位預(yù)量化系數(shù)計(jì)算備選系數(shù)各自的索引，并根據(jù)各自的索引查找備選系數(shù)各自的碼率；根據(jù)備選系數(shù)各自的碼率計(jì)算備選系數(shù)各自的率失真代價(jià)，并將最小率失真代價(jià)的備選系數(shù)確定為第n位的最優(yōu)量化系數(shù)；繼續(xù)執(zhí)行從預(yù)量化系數(shù)集合中獲取第n位預(yù)量化系數(shù)的步驟，直到預(yù)量化系數(shù)集合中各預(yù)量化系數(shù)遍歷結(jié)束時(shí)生成最優(yōu)量化系數(shù)集合；基于最優(yōu)量化系數(shù)集合確定待量化變換塊的量化結(jié)果；獲取第n位預(yù)量化系數(shù)的公式：n＝k，k為獲取次數(shù)。因此本申請(qǐng)可以提升了視頻圖像的編碼效率。

技術(shù)領(lǐng)域

本發(fā)明涉及數(shù)字信號(hào)處理技術(shù)領(lǐng)域，特別涉及一種率失真優(yōu)化量化的方法、裝置、存儲(chǔ)介質(zhì)及終端。

背景技術(shù)

在目前的圖像、視頻編碼技術(shù)中，主要通過(guò)去除空間冗余、時(shí)間冗余(視頻領(lǐng)域)與編碼冗余來(lái)實(shí)現(xiàn)壓縮，編碼器將多種算法有效的結(jié)合起來(lái)達(dá)到較高的壓縮性能，主要相關(guān)技術(shù)包括預(yù)測(cè)編碼、變換編碼、量化和熵編碼。其中量化通常采用率失真優(yōu)化量化的方式進(jìn)行。

率失真優(yōu)化量化(RateDistortionOptimizationQuantization，RDOQ)是AVS3視頻編碼標(biāo)準(zhǔn)中一項(xiàng)非常重要的技術(shù)，它能夠有效的提升編碼器的性能，但RDOQ模塊需要計(jì)算大量碼率-失真代價(jià)(RD-Cost)，該過(guò)程通過(guò)熵編碼來(lái)獲取率失真優(yōu)化量化(RDO)過(guò)程所需要的碼率，由于熵編碼自身的特性，導(dǎo)致該過(guò)程具備強(qiáng)數(shù)據(jù)依賴性，難以進(jìn)行硬件設(shè)計(jì)。針對(duì)這種情況，需要對(duì)RDOQ進(jìn)行算法優(yōu)化，緩解其數(shù)據(jù)依賴性。

現(xiàn)有RDOQ算法提前建立碼率表格，在RDO過(guò)程中只需計(jì)算出每個(gè)系數(shù)對(duì)應(yīng)的表格索引，即可根據(jù)索引值直接獲取該系數(shù)的碼率信息。這種方式不需要進(jìn)行真實(shí)的熵編碼，在一定程度上緩解了數(shù)據(jù)依賴性。但表格索引的計(jì)算同樣存在著依賴性，例如計(jì)算圖1所示，在計(jì)算當(dāng)前系數(shù)對(duì)應(yīng)的若干備選系數(shù)的表格索引時(shí)，是根據(jù)當(dāng)前系數(shù)的前一個(gè)系數(shù)決策出的最優(yōu)量化系數(shù)進(jìn)行計(jì)算的，也就是說(shuō)，在計(jì)算當(dāng)前系數(shù)的索引時(shí)，必須等待前一個(gè)系數(shù)決策出的最優(yōu)量化系數(shù)才能計(jì)算(即串行計(jì)算方式)，從而導(dǎo)致提升了編碼時(shí)間，并降低了視頻圖像數(shù)據(jù)的編碼效率。

發(fā)明內(nèi)容

本申請(qǐng)實(shí)施例提供了一種率失真優(yōu)化量化的方法、裝置、存儲(chǔ)介質(zhì)及終端。為了對(duì)披露的實(shí)施例的一些方面有一個(gè)基本的理解，下面給出了簡(jiǎn)單的概括。該概括部分不是泛泛評(píng)述，也不是要確定關(guān)鍵/重要組成元素或描繪這些實(shí)施例的保護(hù)范圍。其唯一目的是用簡(jiǎn)單的形式呈現(xiàn)一些概念，以此作為后面的詳細(xì)說(shuō)明的序言。

第一方面，本申請(qǐng)實(shí)施例提供了一種率失真優(yōu)化量化的方法，方法包括：

根據(jù)待量化變換塊生成預(yù)量化系數(shù)集合；

從預(yù)量化系數(shù)集合中獲取第n位預(yù)量化系數(shù)，并生成第n位預(yù)量化系數(shù)的第一備選系數(shù)、第二備選系數(shù)以及第三備選系數(shù)；

其中，第一備選系數(shù)等于第n位預(yù)量化系數(shù)，第二備選系數(shù)為預(yù)量化系數(shù)集合中第n位預(yù)量化系數(shù)的n-1位預(yù)量化系數(shù)，第三備選系數(shù)為0；

根據(jù)第n位預(yù)量化系數(shù)的第n-1位預(yù)量化系數(shù)計(jì)算第一備選系數(shù)、第二備選系數(shù)以及第三備選系數(shù)各自的索引，并基于各自的索引從預(yù)設(shè)碼率表格中查找第一備選系數(shù)、第二備選系數(shù)以及第三備選系數(shù)各自的碼率，生成第一碼率、第二碼率以及第三碼率；

根據(jù)第一碼率、第二碼率以及第三碼率計(jì)算第一備選系數(shù)、第二備選系數(shù)以及第三備選系數(shù)各自的率失真代價(jià)，并將最小率失真代價(jià)的備選系數(shù)確定為第n位的最優(yōu)量化系數(shù)；

繼續(xù)執(zhí)行從預(yù)量化系數(shù)集合中獲取第n位預(yù)量化系數(shù)的步驟，直到預(yù)量化系數(shù)集合中各預(yù)量化系數(shù)遍歷結(jié)束時(shí)生成最優(yōu)量化系數(shù)集合；

其中，從預(yù)量化系數(shù)集合中獲取第n位預(yù)量化系數(shù)的公式為：n＝k，k為獲取次數(shù)；

基于最優(yōu)量化系數(shù)集合確定待量化變換塊的量化結(jié)果。