[發(fā)明專利]深度學(xué)習(xí)模型的建立方法、樣本處理方法及裝置

在審

• 申請?zhí)枺?/td>: 202010438330.4
• 申請日: 2020-05-21
• 公開（公告）號(hào): CN111814821A
• 公開（公告）日: 2020-10-23
• 發(fā)明（設(shè)計(jì)）人: 王澤榮
• 申請（專利權(quán)）人: 北京邁格威科技有限公司
• 主分類號(hào): G06K9/62
• 分類號(hào): G06K9/62;G06N3/08
• 代理公司: 北京潤澤恒知識(shí)產(chǎn)權(quán)代理有限公司 11319
• 代理人: 王婷婷

1.一種深度學(xué)習(xí)模型的建立方法，其特征在于，所述方法包括：

通過深度學(xué)習(xí)模型，獲取訓(xùn)練集中訓(xùn)練樣本的第一樣本特征，以及驗(yàn)證集中驗(yàn)證樣本的第二樣本特征；

對(duì)所述第一樣本特征進(jìn)行歸一化處理得到第一分布特征，以及對(duì)所述第二樣本特征進(jìn)行歸一化處理得到第二分布特征；

計(jì)算所述第一分布特征與所述第二分布特征之間的距離值，并根據(jù)所述距離值，確定權(quán)重值；

獲取所述訓(xùn)練集的損失函數(shù)，并通過所述權(quán)重值對(duì)所述損失函數(shù)進(jìn)行加權(quán)處理，得到目標(biāo)損失函數(shù)；

通過所述目標(biāo)損失函數(shù)對(duì)所述深度學(xué)習(xí)模型進(jìn)行訓(xùn)練，得到目標(biāo)深度學(xué)習(xí)模型。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，在所述深度學(xué)習(xí)模型為分類任務(wù)模型的情況下，所述獲取所述訓(xùn)練集的損失函數(shù)，并通過所述權(quán)重值對(duì)所述損失函數(shù)進(jìn)行加權(quán)處理，得到目標(biāo)損失函數(shù)，包括：

獲取所述訓(xùn)練集的交叉熵?fù)p失函數(shù)，并通過所述權(quán)重值對(duì)所述交叉熵?fù)p失函數(shù)進(jìn)行加權(quán)處理，得到目標(biāo)交叉熵?fù)p失函數(shù)；

所述通過所述目標(biāo)損失函數(shù)對(duì)所述深度學(xué)習(xí)模型進(jìn)行訓(xùn)練，得到目標(biāo)深度學(xué)習(xí)模型，包括：

通過所述目標(biāo)交叉熵?fù)p失函數(shù)對(duì)所述深度學(xué)習(xí)模型進(jìn)行訓(xùn)練，得到目標(biāo)深度學(xué)習(xí)模型。

3.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述根據(jù)所述距離值，確定權(quán)重值，包括：

將所述距離值的倒數(shù)作為所述權(quán)重值。

4.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述第一樣本特征的特征維度和所述第二樣本特征的特征維度相同。

5.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述方法還包括：

將所述第一分布特征與所述第二分布特征，分別映射至預(yù)設(shè)的超球面模型所包括的超球面中的對(duì)應(yīng)位置；

展示所述超球面模型。

6.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述方法還包括：

確定與所述第二分布特征之間的距離值大于或等于預(yù)設(shè)閾值的目標(biāo)第一分布特征；

將所述目標(biāo)第一分布特征對(duì)應(yīng)的目標(biāo)訓(xùn)練集進(jìn)行標(biāo)記。

7.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述距離值為歐式距離值。

8.一種樣本處理方法，其特征在于，所述方法包括：

獲取待處理樣本；

將所述待處理樣本輸入目標(biāo)深度學(xué)習(xí)模型進(jìn)行處理，輸出針對(duì)所述待處理樣本的處理結(jié)果；

其中，所述目標(biāo)深度學(xué)習(xí)模型是根據(jù)權(quán)利要求1至權(quán)利要求7中任意一項(xiàng)深度學(xué)習(xí)模型的建立方法所得到的。

9.一種深度學(xué)習(xí)模型的建立裝置，其特征在于，所述裝置包括：

獲取模塊，用于通過深度學(xué)習(xí)模型，獲取訓(xùn)練集中訓(xùn)練樣本的第一樣本特征，以及驗(yàn)證集中驗(yàn)證樣本的第二樣本特征；

歸一處理模塊，用于對(duì)所述第一樣本特征進(jìn)行歸一化處理得到第一分布特征，以及對(duì)所述第二樣本特征進(jìn)行歸一化處理得到第二分布特征；

權(quán)重模塊，用于計(jì)算所述第一分布特征與所述第二分布特征之間的距離值，并根據(jù)所述距離值，確定權(quán)重值；

加權(quán)模塊，用于獲取所述訓(xùn)練集的損失函數(shù)，并通過所述權(quán)重值對(duì)所述損失函數(shù)進(jìn)行加權(quán)處理，得到目標(biāo)損失函數(shù)；

訓(xùn)練模塊，用于通過所述目標(biāo)損失函數(shù)對(duì)所述深度學(xué)習(xí)模型進(jìn)行訓(xùn)練，得到目標(biāo)深度學(xué)習(xí)模型。

10.根據(jù)權(quán)利要求9所述的裝置，其特征在于，在所述深度學(xué)習(xí)模型為分類任務(wù)模型的情況下，所述加權(quán)模塊，包括：

獲取子模塊，用于獲取所述訓(xùn)練集的交叉熵?fù)p失函數(shù)，并通過所述權(quán)重值對(duì)所述交叉熵?fù)p失函數(shù)進(jìn)行加權(quán)處理，得到目標(biāo)交叉熵?fù)p失函數(shù)；

所述訓(xùn)練模塊，包括：

訓(xùn)練子模塊，用于通過所述目標(biāo)交叉熵?fù)p失函數(shù)對(duì)所述深度學(xué)習(xí)模型進(jìn)行訓(xùn)練，得到目標(biāo)深度學(xué)習(xí)模型。

11.根據(jù)權(quán)利要求9所述的裝置，其特征在于，所述權(quán)重模塊，包括：

倒數(shù)子模塊，用于將所述距離值的倒數(shù)作為所述權(quán)重值。