[發明專利]機器學習方法及相關裝置

在審

• 申請號: 201911190136.2
• 申請日: 2019-11-28
• 公開（公告）號: CN111062495A
• 公開（公告）日: 2020-04-24
• 發明（設計）人: 程小磊;李曉凱;郭云
• 申請（專利權）人: 深圳市華尊科技股份有限公司
• 主分類號: G06N20/10
• 分類號: G06N20/10;G06N3/08;G06K9/62
• 代理公司: 廣州三環專利商標代理有限公司 44202
• 代理人: 郝傳鑫;熊永強

1.一種機器學習方法，其特征在于，所述方法包括：

獲取訓練集和測試集，所述訓練集為無標注數據，所述測試集為標注數據；

將所述訓練集中的所有訓練樣本通過無監督學習算法映射到嵌入空間；

基于所述嵌入空間，采用預設聚類算法對所述所有訓練樣本進行聚類，得到多個類別，每一類別包括至少一個所述訓練樣本，每一類別對應一個偽標簽；

依據所述偽標簽為所述訓練樣本配置多個目標任務，每一類所述偽標簽對應至少一個所述目標任務；

基于所述多個目標任務運行元學習算法，以對所述多個類別對應的訓練樣本進行訓練，得到具備目標學習機制的目標神經網絡模型；

將所述測試集輸入到所述目標神經網絡模型進行訓練，得到更新參數；

依據所述更新參數優化所述目標神經網絡模型的模型參數，得到優化后的所述目標神經網絡模型。

2.根據權利要求1所述的方法，其特征在于，所述將所述測試集輸入到所述目標神經網絡模型進行訓練，得到更新參數，包括：

將所述測試集輸入到所述目標神經網絡模型，得到預測結果；

將所述預測結果輸入到預設損失函數，得到所述更新參數。

3.根據權利要求2所述的方法，其特征在于，所述多個目標任務包括兩類任務，具體為：無監督學習任務和監督學習任務，所述更新參數包括第一更新參數和第二更新參數，所述第一更新參數為針對所述無監督學習任務的參數，所述第二更新參數為針對所述監督學習任務的參數，所述預設損失函數包括第一損失函數和第二損失函數，其中，所述第一損失函數用于調節所述無監督學習任務的運算結果，所述第二損失函數用于調節所述監督學習任務的運算結果。

4.根據權利要求3所述的方法，其特征在于，所述第一損失函數對應第一權值，所述第一權值用于調節所述無監督學習任務的運算結果，所述第二損失函數對應第二權值，所述第二權值用于調節所述監督學習任務的運算結果。

5.根據權利要求1-4任一項所述的方法，其特征在于，所述方法還包括：

從所述多個類別中獲取帶有所述偽標簽的部分訓練樣本；

將所述部分訓練樣本輸入到優化后的所述目標神經網絡模型中，得到標簽更新后的部分訓練樣本。

6.一種機器學習裝置，其特征在于，所述裝置包括：

第一獲取單元，用于獲取訓練集和測試集，所述訓練集為無標注數據，所述測試集為標注數據；

映射單元，用于將所述訓練集中的所有訓練樣本通過無監督學習算法映射到嵌入空間；

聚類單元，用于基于所述嵌入空間，采用預設聚類算法對所述所有訓練樣本進行聚類，得到多個類別，每一類別包括至少一個所述訓練樣本，每一類別對應一個偽標簽；

配置單元，用于依據所述偽標簽為所述訓練樣本配置多個目標任務，每一類所述偽標簽對應至少一個所述目標任務；

訓練單元，用于基于所述多個目標任務運行元學習算法，以對所述多個類別對應的訓練樣本進行訓練，得到具備目標學習機制的目標神經網絡模型；以及將所述測試集輸入到所述目標神經網絡模型進行訓練，得到更新參數；

優化單元，用于依據所述更新參數優化所述目標神經網絡模型的模型參數，得到優化后的所述目標神經網絡模型。

7.根據權利要求6所述的裝置，其特征在于，在所述將所述測試集輸入到所述目標神經網絡模型進行訓練，得到更新參數方面，所述訓練單元具體用于：

將所述測試集輸入到所述目標神經網絡模型，得到預測結果；

將所述預測結果輸入到預設損失函數，得到所述更新參數。

8.根據權利要求7所述的裝置，其特征在于，所述多個目標任務包括兩類任務，具體為：無監督學習任務和監督學習任務，所述更新參數包括第一更新參數和第二更新參數，所述第一更新參數為針對所述無監督學習任務的參數，所述第二更新參數為針對所述監督學習任務的參數，所述預設損失函數包括第一損失函數和第二損失函數，其中，所述第一損失函數用于調節所述無監督學習任務的運算結果，所述第二損失函數用于調節所述監督學習任務的運算結果。