[發(fā)明專利]一種模型訓練方法、裝置、電子設備和存儲介質

在審

• 申請?zhí)枺?/td>: 202110633482.4
• 申請日: 2021-06-07
• 公開（公告）號: CN115510932A
• 公開（公告）日: 2022-12-23
• 發(fā)明（設計）人: 劉寵;李峰剛;朱林波
• 申請（專利權）人: 中移（成都）信息通信科技有限公司;中國移動通信集團有限公司
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06F16/36;G06F40/40
• 代理公司: 北京派特恩知識產權代理有限公司 11270
• 代理人: 姚文嫻;張穎玲

1.一種模型訓練方法，其特征在于，所述方法包括：

獲取原始數(shù)據集，從所述原始數(shù)據集中提取知識圖譜；對所述知識圖譜進行預處理，得到翻譯類模型的訓練集；

將所述訓練集輸入至所述翻譯類模型中進行訓練，在所述翻譯類模型的每次迭代過程中，確定所述翻譯類模型的離散度；

根據所述離散度，確定所述翻譯類模型的損失值，基于所述翻譯類模型的損失值，對所述翻譯類模型的參數(shù)進行調整。

2.根據權利要求1所述的方法，其特征在于，所述訓練集包括多個實體和多個實體之間的關系；所述在所述翻譯類模型的每次迭代過程中，確定所述翻譯類模型的離散度，包括：

在所述翻譯類模型的每次迭代過程中，對所述多個實體之間的關系進行聚類，確定不同關系類之間的空間距離以及相同關系類中實體之間的空間距離；

根據所述不同關系類之間的空間距離以及相同關系類中實體之間的空間距離，確定所述翻譯類模型的離散度。

3.根據權利要求1所述的方法，其特征在于，所述根據所述離散度，確定所述翻譯類模型的損失值，包括：

根據所述翻譯類模型在每次迭代過程中的離散度的取值，確定對應的損失函數(shù)；

使用所述損失函數(shù)，確定所述翻譯類模型在每次迭代過程中的損失值。

4.根據權利要求1所述的方法，其特征在于，所述方法還包括：

若確定所述翻譯類模型在本次迭代過程的離散度小于或等于設定閾值，且相鄰迭代過程中翻譯類模型的離散度的變化值小于設定值，則確定所述翻譯類模型訓練完成；所述相鄰迭代過程包括所述本次迭代過程。

5.根據權利要求1至4任一項所述的方法，其特征在于，所述對所述知識圖譜進行預處理，包括：

提取所述知識圖譜中每條知識三元組的語義信息，根據所述每條知識三元組的語義信息，確定所述翻譯類模型的訓練集。

6.一種模型訓練裝置，其特征在于，所述裝置包括：

第一確定模塊，用于獲取原始數(shù)據集，從所述原始數(shù)據集中提取知識圖譜；對所述知識圖譜進行預處理，得到翻譯類模型的訓練集；

第二確定模塊，用于將所述訓練集輸入至所述翻譯類模型中進行訓練，在所述翻譯類模型的每次迭代過程中，確定所述翻譯類模型的離散度；

調整模塊，用于根據所述離散度，確定所述翻譯類模型的損失值，基于所述翻譯類模型的損失值，對所述翻譯類模型的參數(shù)進行調整。

7.根據權利要求6所述的裝置，其特征在于，所述訓練集包括多個實體和多個實體之間的關系；所述第二確定模塊，用于在所述翻譯類模型的每次迭代過程中，確定所述翻譯類模型的離散度，包括：

在所述翻譯類模型的每次迭代過程中，對所述多個實體之間的關系進行聚類，確定不同關系類之間的空間距離以及相同關系類中實體之間的空間距離；

根據所述不同關系類之間的空間距離以及相同關系類中實體之間的空間距離，確定所述翻譯類模型的離散度。

8.根據權利要求6所述的裝置，其特征在于，所述調整模塊，用于根據所述離散度，確定所述翻譯類模型的損失值，包括：

根據所述翻譯類模型在每次迭代過程中的離散度的取值，確定對應的損失函數(shù)；

使用所述損失函數(shù)，確定所述翻譯類模型在每次迭代過程中的損失值。

9.一種電子設備，其特征在于，所述設備包括存儲器、處理器及存儲在存儲器上并可在處理器上運行的計算機程序，所述處理器執(zhí)行所述程序時實現(xiàn)權利要求1至5任一項所述的方法。

10.一種計算機存儲介質，其上存儲有計算機程序，其特征在于，該計算機程序被處理器執(zhí)行時實現(xiàn)權利要求1至5任一項所述的方法。