[發(fā)明專利]一種半監(jiān)督學(xué)習(xí)模型的訓(xùn)練方法、圖像處理方法及設(shè)備

在審

• 申請?zhí)枺?/td>: 202010899716.5
• 申請日: 2020-08-31
• 公開（公告）號: CN112183577A
• 公開（公告）日: 2021-01-05
• 發(fā)明（設(shè)計）人: 杜澤偉;胡恒通;謝凌曦;田奇
• 申請（專利權(quán)）人: 華為技術(shù)有限公司
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/08;G06N20/00
• 代理公司: 深圳市深佳知識產(chǎn)權(quán)代理事務(wù)所(普通合伙) 44285
• 代理人: 李杭

1.一種半監(jiān)督學(xué)習(xí)模型的訓(xùn)練方法，其特征在于，包括：

從第一無標(biāo)簽樣本集選取初始子集，并通過訓(xùn)練后的第一半監(jiān)督學(xué)習(xí)模型對所述初始子集進(jìn)行預(yù)測，得到第一預(yù)測標(biāo)簽集，所述第一半監(jiān)督學(xué)習(xí)模型由初始半監(jiān)督學(xué)習(xí)模型通過初始訓(xùn)練集訓(xùn)練得到，所述初始訓(xùn)練集包括第一有標(biāo)簽樣本集和所述第一無標(biāo)簽樣本集；

根據(jù)所述第一預(yù)測標(biāo)簽集將所述初始子集分為第一子集和第二子集，所述第一子集為預(yù)測正確的分類類別對應(yīng)的樣本集合，所述第二子集為預(yù)測錯誤的分類類別對應(yīng)的樣本集合；

構(gòu)建第一訓(xùn)練集，所述第一訓(xùn)練集包括第二有標(biāo)簽樣本集、第二無標(biāo)簽樣本集和負(fù)標(biāo)簽樣本集，所述第二有標(biāo)簽樣本集為包括所述第一有標(biāo)簽樣本集和所述第一子集的具有正確分類類別的樣本集合，所述第二無標(biāo)簽樣本集為所述第一無標(biāo)簽樣本集中除所述初始子集之外的無標(biāo)簽樣本的集合，所述負(fù)標(biāo)簽樣本集為包括所述第二子集的具有錯誤分類類別的樣本集合；

根據(jù)所述第一訓(xùn)練集訓(xùn)練所述初始半監(jiān)督學(xué)習(xí)模型，得到訓(xùn)練后的第二半監(jiān)督學(xué)習(xí)模型。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述初始半監(jiān)督學(xué)習(xí)模型包括如下模型中的任意一種：

Π-model、VAT、LPDSSL、TNAR、pseudo-label、DCT、mean teacher模型。

3.根據(jù)權(quán)利要求2所述的方法，其特征在于，所述初始半監(jiān)督學(xué)習(xí)模型為Π-model、VAT、LPDSSL、TNAR、pseudo-label、DCT中的任意一種，則所述根據(jù)所述第一訓(xùn)練集訓(xùn)練所述初始半監(jiān)督學(xué)習(xí)模型，得到訓(xùn)練后的第二半監(jiān)督學(xué)習(xí)模型包括：

根據(jù)所述第二有標(biāo)簽樣本集和所述第二無標(biāo)簽樣本集，利用第一損失函數(shù)對所述初始半監(jiān)督學(xué)習(xí)模型進(jìn)行訓(xùn)練，所述第一損失函數(shù)為所述初始半監(jiān)督學(xué)習(xí)模型原有的損失函數(shù)；

根據(jù)所述負(fù)標(biāo)簽樣本集，利用第二損失函數(shù)對所述初始半監(jiān)督學(xué)習(xí)模型進(jìn)行訓(xùn)練，所述第二損失函數(shù)為模型輸出的預(yù)測值與修改值之間的差值，所述修改值為將預(yù)測錯誤的分類類別在所述預(yù)測值上的對應(yīng)維度置為零的值。

4.根據(jù)權(quán)利要求2所述的方法，其特征在于，所述初始半監(jiān)督學(xué)習(xí)模型為mean teacher模型，則所述根據(jù)所述第一訓(xùn)練集訓(xùn)練所述初始半監(jiān)督學(xué)習(xí)模型，得到訓(xùn)練后的第二半監(jiān)督學(xué)習(xí)模型包括：

根據(jù)所述第二有標(biāo)簽樣本集，利用第三損失函數(shù)對所述mean teacher模型進(jìn)行訓(xùn)練；

根據(jù)所述第二有標(biāo)簽樣本集和所述第二無標(biāo)簽樣本集，利用第四損失函數(shù)對所述meanteacher模型進(jìn)行訓(xùn)練，所述第三損失函數(shù)和所述第四損失函數(shù)為所述mean teacher模型原有的損失函數(shù)；

根據(jù)所述負(fù)標(biāo)簽樣本集，利用第五損失函數(shù)對所述mean teacher模型進(jìn)行訓(xùn)練，所述第五損失函數(shù)為模型輸出的預(yù)測值與修改值之間的差值，所述修改值為將預(yù)測錯誤的分類類別在所述預(yù)測值上的對應(yīng)維度置為零的值。

5.根據(jù)權(quán)利要求4所述的方法，其特征在于，

所述第三損失函數(shù)為交叉熵?fù)p失函數(shù)；

和/或，

所述第四損失函數(shù)為均方誤差損失函數(shù)。

6.根據(jù)權(quán)利要求1-5中任一項所述的方法，其特征在于，所述方法還包括：

將所述第二無標(biāo)簽樣本集作為新的第一無標(biāo)簽樣本集、所述第二半監(jiān)督學(xué)習(xí)模型作為新的第一半監(jiān)督學(xué)習(xí)模型，重復(fù)執(zhí)行上述步驟，直至所述第二無標(biāo)簽樣本集為空。

7.根據(jù)權(quán)利要求1-6中任一項所述的方法，其特征在于，所述在根據(jù)所述第一訓(xùn)練集訓(xùn)練所述初始半監(jiān)督學(xué)習(xí)模型，得到訓(xùn)練后的第二半監(jiān)督學(xué)習(xí)模型之后，所述方法還包括：

將所述訓(xùn)練后的第二半監(jiān)督學(xué)習(xí)模型部署在目標(biāo)設(shè)備上，所述目標(biāo)設(shè)備用于獲取目標(biāo)圖像，所述訓(xùn)練后的第二半監(jiān)督學(xué)習(xí)模型用于對所述目標(biāo)圖像進(jìn)行標(biāo)簽預(yù)測。

8.根據(jù)權(quán)利要求1-7中任一項所述的方法，其特征在于，所述從第一無標(biāo)簽樣本集選取初始子集包括：

從所述第一無標(biāo)簽樣本集隨機(jī)選取預(yù)設(shè)數(shù)量的無標(biāo)簽樣本構(gòu)成所述初始子集。