[發(fā)明專利]基于一致性訓(xùn)練的半監(jiān)督三維形狀識(shí)別方法

有效

• 申請(qǐng)?zhí)枺?/td>: 202110784485.8
• 申請(qǐng)日: 2021-07-12
• 公開（公告）號(hào): CN113408650B
• 公開（公告）日: 2023-07-18
• 發(fā)明（設(shè)計(jì)）人: 陳伶俐;雷蘊(yùn)奇;王其聰;黃宇楠;蔡珊珊
• 申請(qǐng)（專利權(quán)）人: 廈門大學(xué)
• 主分類號(hào): G06V10/422
• 分類號(hào): G06V10/422;G06V10/764;G06V10/774;G06V10/82;G06N3/045;G06N3/0895
• 代理公司: 廈門南強(qiáng)之路專利事務(wù)所(普通合伙) 35200
• 代理人: 馬應(yīng)森

1.基于一致性訓(xùn)練的半監(jiān)督三維形狀識(shí)別方法，其特征在于包括以下步驟：

A.準(zhǔn)備三維形狀數(shù)據(jù)集，包括有標(biāo)簽數(shù)據(jù)集和無標(biāo)簽數(shù)據(jù)集；

B.對(duì)無標(biāo)簽數(shù)據(jù)添加微小擾動(dòng)得到擾動(dòng)版本的無標(biāo)簽數(shù)據(jù)集，具體包括以下步驟：

B1.將微小擾動(dòng)r添加到三維形狀的xyz坐標(biāo)信息上，對(duì)三維形狀造成輕微形變且不會(huì)改變?nèi)S形狀的類別語義；由于三維形狀的大小不一，若對(duì)所有的三維形狀添加同樣大小的擾動(dòng)，可能會(huì)造成一些三維形狀的嚴(yán)重變形，按三維形狀的半徑R對(duì)擾動(dòng)進(jìn)行縮放，得到擾動(dòng)版本的無標(biāo)簽形狀x'_j，x'_j的計(jì)算方法如下：

x'_j＝x_j+R·r?????????????????????????(1)

C.設(shè)計(jì)一致性約束分支鼓勵(lì)模型對(duì)相似樣本預(yù)測(cè)一致,提高模型的泛化能力，具體包括以下子步驟：

C1.由于有標(biāo)簽數(shù)據(jù)的數(shù)量有限，設(shè)計(jì)一個(gè)一致性約束分支來提高模型的泛化能力，該分支要求模型對(duì)于相似樣本應(yīng)該預(yù)測(cè)為相同類別，起到平滑模型的作用；對(duì)于原始的無標(biāo)簽點(diǎn)云數(shù)據(jù)x_j以及擾動(dòng)版本的無標(biāo)簽點(diǎn)云數(shù)據(jù)x'_j，模型的預(yù)測(cè)應(yīng)該一致；使用模型預(yù)測(cè)原始無標(biāo)簽點(diǎn)云數(shù)據(jù)x_j得到預(yù)測(cè)分布f(x_j)，使用模型預(yù)測(cè)擾動(dòng)版本的無標(biāo)簽點(diǎn)云數(shù)據(jù)x'_j得到預(yù)測(cè)分布f(x'_j)，一致性約束損失的計(jì)算公式如下：

其中，KL是Kullback-Leibler散度,用于衡量?jī)蓚€(gè)預(yù)測(cè)分布的差距；

D.設(shè)計(jì)偽標(biāo)簽生成分支為無標(biāo)簽數(shù)據(jù)生成偽標(biāo)簽，并提出一致性過濾機(jī)制過濾掉模型不確定的偽標(biāo)簽，實(shí)現(xiàn)對(duì)有標(biāo)簽數(shù)據(jù)集的擴(kuò)充，具體包括以下步驟：

D1.使用當(dāng)前模型對(duì)無標(biāo)簽數(shù)據(jù)x_j進(jìn)行預(yù)測(cè)得到f(x_j)，以預(yù)測(cè)分布的類別概率最大的類別作為該數(shù)據(jù)的偽標(biāo)簽y_p＝argmax(f(x_j))；

D2.提出一致性過濾機(jī)制來過濾模型不確定的偽標(biāo)簽，僅選擇模型對(duì)原始點(diǎn)云數(shù)據(jù)和擾動(dòng)版本的點(diǎn)云數(shù)據(jù)具有一致預(yù)測(cè)時(shí)，才將原始點(diǎn)云數(shù)據(jù)加入候選集；使用當(dāng)前的模型對(duì)擾動(dòng)版本的無標(biāo)簽數(shù)據(jù)x'_j進(jìn)行預(yù)測(cè)得到f(x'_j)，若argmax(f(x_j))＝argmax(f(x'_j))，則將原始數(shù)據(jù)x_j以及它的偽標(biāo)簽y_p加入候選集；

D3.從候選集中挑選置信度大于一定閾值的帶有偽標(biāo)簽的無標(biāo)簽數(shù)據(jù)加入最終的偽標(biāo)簽數(shù)據(jù)集D_p；

D4.偽標(biāo)簽數(shù)據(jù)集D_p中的數(shù)據(jù)將和有標(biāo)簽數(shù)據(jù)一起用于訓(xùn)練中監(jiān)督損失的計(jì)算，監(jiān)督損失的計(jì)算公式如下：

其中，x_i∈R^N×F表示由N個(gè)具有F維特征的點(diǎn)組成的三維形狀，y_i∈{1,...,C}表示數(shù)據(jù)x_i的類別標(biāo)簽，β是超參數(shù),表示偽標(biāo)簽數(shù)據(jù)的監(jiān)督損失的相對(duì)權(quán)重；

E.結(jié)合有標(biāo)簽數(shù)據(jù)和無標(biāo)簽數(shù)據(jù)訓(xùn)練模型，得到訓(xùn)練好的模型，具體包括以下步驟：

E1.模型的總損失函數(shù)是一致性損失函數(shù)和監(jiān)督損失函數(shù)的總和，計(jì)算方法如下：

l_sum＝l_sup+α·l_con???????????????????????????????(4)

其中，α是超參數(shù)；

E2.結(jié)合一致性約束分支和偽標(biāo)簽生成分支進(jìn)行訓(xùn)練，得到訓(xùn)練好的模型進(jìn)行三維形狀識(shí)別；

F.使用訓(xùn)練好的模型進(jìn)行三維形狀識(shí)別，將模型的預(yù)測(cè)作為最終的識(shí)別結(jié)果。

2.如權(quán)利要求1所述基于一致性訓(xùn)練的半監(jiān)督三維形狀識(shí)別方法，其特征在于在步驟A中，所述準(zhǔn)備三維形狀數(shù)據(jù)集進(jìn)一步包括以下子步驟：

A1.準(zhǔn)備有標(biāo)簽數(shù)據(jù)集，使用D_l＝{(x_i,y_i):i∈(1,...,m)}表示有標(biāo)簽數(shù)據(jù)，其中x_i∈R^N×F表示由N個(gè)具有F維特征的點(diǎn)組成的三維形狀，y_i∈{1,...,C}表示數(shù)據(jù)x_i的類別標(biāo)簽，C表示數(shù)據(jù)集中包含的三維形狀的總類別數(shù)，m表示有標(biāo)簽數(shù)據(jù)的數(shù)量；

A2.準(zhǔn)備無標(biāo)簽數(shù)據(jù)集，使用D_u＝{x_j:j∈(1,...,n)}示無標(biāo)簽數(shù)據(jù)，其中x_j∈R^N×F示由N個(gè)具有F維特征的點(diǎn)組成的三維形狀，n表示無標(biāo)簽數(shù)據(jù)的數(shù)量。