[發(fā)明專利]一種基于單個(gè)深度相機(jī)的手部骨架高精度三維重建方法

有效

• 申請(qǐng)?zhí)枺?/td>: 202010112945.8
• 申請(qǐng)日: 2020-02-24
• 公開（公告）號(hào): CN111429499B
• 公開（公告）日: 2023-03-10
• 發(fā)明（設(shè)計(jì)）人: 陸遙;信閆奇;朱慶堂;呂璐璐;劉小林
• 申請(qǐng)（專利權(quán)）人: 中山大學(xué)
• 主分類號(hào): G06T7/55
• 分類號(hào): G06T7/55;G06T17/00;G06T5/00;G06T7/80
• 代理公司: 廣州粵高專利商標(biāo)代理有限公司 44102
• 代理人: 陳偉斌

1.一種基于單個(gè)深度相機(jī)的手部骨架高精度三維重建方法,其特征在于，包括以下步驟：

S1：標(biāo)定單個(gè)深度相機(jī)的深度數(shù)據(jù)、RGB數(shù)據(jù)內(nèi)部參數(shù)以及多角度的外部位置參數(shù)，利用單個(gè)深度相機(jī)多角度采集手部的深度數(shù)據(jù)和RGB數(shù)據(jù)；

S2：對(duì)各個(gè)角度采集到的手部RGB數(shù)據(jù)分割出該角度下的手部骨架關(guān)鍵點(diǎn)二維圖，將二維手部骨架關(guān)鍵點(diǎn)映射到對(duì)應(yīng)的深度數(shù)據(jù)中，得到該角度下的手部骨架關(guān)鍵點(diǎn)三維結(jié)構(gòu)；

S3：利用步驟S1中的多角度外部位置參數(shù)，將步驟S2中的各角度下的手部骨架關(guān)鍵點(diǎn)三維結(jié)構(gòu)配準(zhǔn)到同一個(gè)三維坐標(biāo)系下，得到初步手部骨架三維模型；

S4：利用手部骨架拓?fù)浣Y(jié)構(gòu)，對(duì)步驟S3中得到的初步手部骨架三維模型進(jìn)行手指中心線校正、手部整體拓?fù)浣Y(jié)構(gòu)校正，得到高精度的手部骨架三維模型；

所述步驟S2具體包括以下步驟：

s21：對(duì)步驟S1中得到的RGB手部圖像數(shù)據(jù)使用雙邊濾波進(jìn)行平滑去噪，得到低噪音并且保持特征的數(shù)據(jù)；

s22：使用深度學(xué)習(xí)技術(shù)訓(xùn)練手部關(guān)鍵點(diǎn)提取模型，分割出步驟s21中RGB圖像中的手部關(guān)鍵點(diǎn)二維坐標(biāo)；

s23：將步驟s22中獲取手部關(guān)鍵點(diǎn)二維坐標(biāo)與該RGB圖像對(duì)應(yīng)的深度數(shù)據(jù)對(duì)應(yīng)，獲得深度坐標(biāo)，得到該角度下手部骨架關(guān)鍵點(diǎn)三維結(jié)構(gòu)；

所述步驟S3主要包括以下步驟：

s31：分析對(duì)于各角度下提取的手部骨架關(guān)鍵點(diǎn)，選取2個(gè)或2個(gè)以上共同看到的關(guān)鍵點(diǎn)；

s32：利用步驟S1中設(shè)定的相機(jī)外部位置參數(shù)，結(jié)合步驟s31中選取的關(guān)鍵點(diǎn)，固定一個(gè)角度，將其它角度下的關(guān)鍵點(diǎn)匹配到固定的角度下的三維坐標(biāo)系下，得到初步手部骨架三維模型；

所述步驟S4主要包括以下步驟：

s41：對(duì)步驟s32中得到的初步手部骨架三維模型，利用手部拓?fù)浣Y(jié)構(gòu)，針對(duì)手指、手掌部分關(guān)鍵點(diǎn)，將從其他角度配準(zhǔn)過來的關(guān)鍵點(diǎn)匹配到同一個(gè)手部拓?fù)浣Y(jié)構(gòu)上；

s42：對(duì)步驟s41中校正后的手部骨架三維模型，利用手部拓?fù)浣Y(jié)構(gòu)，整體校正手部骨架三維模型，得到高精度手部骨架三維模型。