[發(fā)明專利]一種3D-HEVC深度視頻幀內(nèi)快速編碼方法

在審

• 申請?zhí)枺?/td>: 201510873417.3
• 申請日: 2015-12-02
• 公開（公告）號: CN105430415A
• 公開（公告）日: 2016-03-23
• 發(fā)明（設(shè)計）人: 陳芬;郭明松;彭宗舉;蔣剛毅;郁梅
• 申請（專利權(quán)）人: 寧波大學(xué)
• 主分類號: H04N19/597
• 分類號: H04N19/597;H04N19/147;H04N19/593
• 代理公司: 寧波奧圣專利代理事務(wù)所(普通合伙) 33226
• 代理人: 周玨

1.一種3D-HEVC深度視頻幀內(nèi)快速編碼方法，其特征在于包括訓(xùn)練階段和測試階段兩個過程，所述的訓(xùn)練階段過程的具體步驟如下：

①-1、選取若干個深度視頻，將選取的所有深度視頻中的所有視頻幀構(gòu)成訓(xùn)練視頻幀集合，將訓(xùn)練視頻幀集合中當前待處理的視頻幀定義為當前幀；

①-2、對當前幀中的所有邊緣像素點和所有非邊緣像素點進行不同的濾波處理以完成對當前幀的預(yù)處理；

①-3a、按序處理預(yù)處理后的視頻幀中的每個最大編碼單元，將預(yù)處理后的視頻幀中當前待處理的最大編碼單元定義為當前最大編碼單元，并記為CLCU；

①-3b、如果CLCU為預(yù)處理后的視頻幀中最左側(cè)的所有最大編碼單元中的一個或最上側(cè)的所有最大編碼單元中的一個，則采用原始3D-HEVC編碼平臺對CLCU進行編碼，再執(zhí)行步驟①-3c；

如果CLCU不為預(yù)處理后的視頻幀中最左側(cè)的所有最大編碼單元中的一個且不為最上側(cè)的所有最大編碼單元中的一個，則獲取CLCU的特征向量，記為F^CLCU，然后采用原始3D-HEVC編碼平臺對CLCU進行編碼，再執(zhí)行步驟①-3c，其中，F(xiàn)^CLCU的維數(shù)為17，F(xiàn)^CLCU中的17個特征按序分別為MSE^CLCU、xMSE^CLCU、yMSE^CLCU、Sob^CLCU、MSE^LLCU、xMSE^LLCU、yMSE^LLCU、Sob^LLCU、MSE^ULCU、xMSE^ULCU、yMSE^ULCU、Sob^ULCU、SAD^C-LLCU、SAD^C-ULCU、LD_max、UD_max及TD_max，MSE^CLCU、xMSE^CLCU和yMSE^CLCU對應(yīng)表示CLCU中的所有像素點的像素值的均方誤差、水平方向的均方誤差和垂直方向的均方誤差，Sob^CLCU表示CLCU中的所有像素點的像素值的Sobel梯度值之和，MSE^LLCU、xMSE^LLCU和yMSE^LLCU對應(yīng)表示CLCU的左相鄰最大編碼單元LLCU中的所有像素點的像素值的均方誤差、水平方向的均方誤差和垂直方向的均方誤差，Sob^LLCU表示CLCU的左相鄰最大編碼單元LLCU中的所有像素點的像素值的Sobel梯度值之和，MSE^ULCU、xMSE^ULCU和yMSE^ULCU對應(yīng)表示CLCU的上相鄰最大編碼單元ULCU中的所有像素點的像素值的均方誤差、水平方向的均方誤差和垂直方向的均方誤差，Sob^ULCU表示CLCU的上相鄰最大編碼單元ULCU中的所有像素點的像素值的Sobel梯度值之和，SAD^C-LLCU表示CLCU與LLCU之間的絕對差和，SAD^C-ULCU表示CLCU與ULCU之間的絕對差和，LD_max表示LLCU的最大劃分深度，UD_max表示ULCU的最大劃分深度，TD_max表示當前幀相對應(yīng)的彩色視頻幀中與CLCU對應(yīng)的最大編碼單元TLCU的最大劃分深度；

①-3c、將預(yù)處理后的視頻幀中下一個待處理的最大編碼單元作為當前最大編碼單元，并記為CLCU，然后返回步驟①-3b繼續(xù)執(zhí)行，直至預(yù)處理后的視頻幀中的所有最大編碼單元處理完畢；

①-4、將訓(xùn)練視頻幀集合中下一幀待處理的視頻幀作為當前幀，然后返回步驟①-2繼續(xù)執(zhí)行，直至訓(xùn)練視頻幀集合中的所有視頻幀處理完畢；

①-5、將訓(xùn)練視頻幀集合中的所有視頻幀中除最左側(cè)的所有最大編碼單元和最上側(cè)的所有最大編碼單元外的所有最大編碼單元各自的特征向量作為輸入?yún)?shù)，將訓(xùn)練視頻幀集合中的所有視頻幀中除最左側(cè)的所有最大編碼單元和最上側(cè)的所有最大編碼單元外的所有最大編碼單元各自采用原始3D-HEVC編碼平臺編碼時的最大劃分深度作為輸出參數(shù)，且所有最大編碼單元各自的特征向量與最大劃分深度一一對應(yīng)輸入到BP神經(jīng)網(wǎng)絡(luò)中進行訓(xùn)練，得到訓(xùn)練好的BP神經(jīng)網(wǎng)絡(luò)測試模型；

所述的測試階段過程的具體步驟如下：

②-1、對于任意一幀待測試的深度視頻幀，將其定義為測試幀；

②-2、對測試幀中的所有邊緣像素點和所有非邊緣像素點進行不同的濾波處理以完成對測試幀的預(yù)處理；

②-3、按照步驟①-3a至步驟①-3c的過程，以相同的方式獲取預(yù)處理后的測試幀中除最左側(cè)的所有最大編碼單元和最上側(cè)的所有最大編碼單元外的每個最大編碼單元的特征向量；

②-4、將預(yù)處理后的測試幀中除最左側(cè)的所有最大編碼單元和最上側(cè)的所有最大編碼單元外的所有最大編碼單元各自的特征向量作為輸入?yún)?shù)，輸入到訓(xùn)練好的BP神經(jīng)網(wǎng)絡(luò)測試模型中，預(yù)測得到預(yù)處理后的測試幀中除最左側(cè)的所有最大編碼單元和最上側(cè)的所有最大編碼單元外的每個最大編碼單元的最大劃分深度的預(yù)測值；

②-5、對預(yù)處理后的測試幀中的每個最大編碼單元進行編碼，具體過程為：

②-5a、按序處理預(yù)處理后的測試幀中的每個最大編碼單元，將預(yù)處理后的測試幀中當前待處理的最大編碼單元定義為當前最大編碼單元，并記為CLCU’；

②-5b、如果CLCU’為預(yù)處理后的測試幀中最左側(cè)的所有最大編碼單元中的一個或最上側(cè)的所有最大編碼單元中的一個，則采用原始3D-HEVC編碼平臺對CLCU’進行編碼，再執(zhí)行步驟②-5c；

如果CLCU’不為預(yù)處理后的測試幀中最左側(cè)的所有最大編碼單元中的一個且不為最上側(cè)的所有最大編碼單元中的一個，則執(zhí)行以下步驟：

b1、判斷CLCU’的最大劃分深度的預(yù)測值PD’與測試幀相對應(yīng)的彩色視頻幀中與CLCU’對應(yīng)的最大編碼單元TLCU’的最大劃分深度TD’的大小關(guān)系，如果PD’的值大于TD’的值，則將PD’的值重置為TD’的值，然后執(zhí)行步驟b2；如果PD’的值小于或等于TD’的值，則保持PD’的值不變，然后執(zhí)行步驟b2；

b2、將CLCU’重新定義為當前編碼單元，令CD’表示當前編碼單元的劃分深度，CD’的初始值為0，然后執(zhí)行步驟b3；

b3、采用Canny邊緣檢測算法對當前編碼單元進行邊緣檢測，得到當前編碼單元的邊緣信息，如果CD’大于或等于PD’，且滿足下述條件之一：1)當前編碼單元中不存在邊緣信息，2)PD’的值已經(jīng)被重置為TD’，3)CD’大于或等于TD’，則對當前編碼單元不進行繼續(xù)劃分，至此已完成當前編碼單元的編碼，再執(zhí)行步驟b4；如果CD’小于PD’，則對當前編碼單元進行繼續(xù)劃分，執(zhí)行步驟b5；

b4、如果CD’等于0，則執(zhí)行步驟②-5c；

如果CD’等于1，則判斷當前編碼單元所在層的四個編碼單元是否均已處理完畢，若已全部處理完畢，則執(zhí)行步驟②-5c；若未全部處理完畢，則將當前編碼單元所在層的四個編碼單元中的下一個待處理的編碼單元作為當前編碼單元，再執(zhí)行步驟b3；

如果CD’不等于0且不等于1，則判斷當前編碼單元所在層的四個編碼單元是否均已處理完畢，如果已全部處理完畢，則將當前編碼單元的上一層中下一個待處理的編碼單元作為當前編碼單元，再執(zhí)行步驟b3；如果未全部處理完畢，則將當前編碼單元所在層的四個編碼單元中的下一個待處理的編碼單元作為當前編碼單元，再執(zhí)行步驟b3；

b5、將當前編碼單元的下一層四個編碼單元中當前待處理的編碼單元作為當前編碼單元，并令CD’＝CD’+1，然后返回步驟b3繼續(xù)執(zhí)行，其中，CD’＝CD’+1中的“＝”為賦值符號；

在上述編碼單元的遞歸劃分過程中，當CD’為0時，如果PD’為0、當前編碼單元中不存在邊緣信息且PD’的值未被重置為TD’，或者PD’大于0，則當前編碼單元的預(yù)測方向從編號為0、1及從24到34的預(yù)測方向中遍歷得到；如果為其余情況，則當前編碼單元的預(yù)測方向從全部的預(yù)測方向中遍歷得到；

當CD’為1時，如果PD’為1、當前編碼單元中不存在邊緣信息且PD’的值未被重置為TD’，或者當PD’大于1，或者PD’小于1、當前編碼單元中存在邊緣信息且TD’大于1，則當前編碼單元的預(yù)測方向從編號為0、1、9、10、11、37、38及20至34的預(yù)測方向中遍歷得到；如果為其余情況，則當前編碼單元的預(yù)測方向從全部的預(yù)測方向中遍歷得到；

當CD’為2時，如果PD’為2、當前編碼單元中不存在邊緣信息、PD’的值未被重置為TD’，或者當PD’大于2，或者PD’小于2、當前編碼單元中存在邊緣信息且TD’大于2，則當前編碼單元的預(yù)測方向從編號為0、1、37、38、8至12及20至34的預(yù)測方向中遍歷得到；如果為其余情況，則當前編碼單元的預(yù)測方向從全部的預(yù)測方向中遍歷得到；

當CD’為3時，當前編碼單元的預(yù)測方向從全部的預(yù)測方向中遍歷得到；

②-5c、將預(yù)處理后的測試幀中下一個待處理的最大編碼單元作為當前最大編碼單元，并記為CLCU’，然后返回步驟②-5b繼續(xù)執(zhí)行，直至預(yù)處理后的測試幀中的所有最大編碼單元處理完畢。