[發(fā)明專利]分類模型的訓(xùn)練和使用方法、裝置、設(shè)備以及存儲介質(zhì)

在審

• 申請?zhí)枺?/td>: 202110887260.5
• 申請日: 2021-08-03
• 公開（公告）號: CN113591998A
• 公開（公告）日: 2021-11-02
• 發(fā)明（設(shè)計）人: 張敬來;賈歡歡
• 申請（專利權(quán)）人: 上海浦東發(fā)展銀行股份有限公司
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06F40/30;G06F40/289;G06F40/216;G06N3/04;G06N3/08
• 代理公司: 北京品源專利代理有限公司 11332
• 代理人: 陳金忠

1.一種分類模型的訓(xùn)練方法，其特征在于，包括：

將樣本文本輸入特征模型，得到所述樣本文本中詞語的詞向量；其中，所述特征模型包括一個兩層雙向LSTM；所述樣本文本為歷史軟件測試結(jié)果，歷史軟件測試結(jié)果的類型包括環(huán)境問題、數(shù)據(jù)問題、業(yè)務(wù)問題、代碼問題、以及案例問題；

通過初始模型，對詞語的詞向量、詞語的擾動向量和詞語的位置特征進(jìn)行處理，得到所述樣本文本的分類預(yù)測結(jié)果；其中，所述初始模型包括至少一個兩層雙向LSTM、注意力機制層和分類層；

根據(jù)所述樣本文本的分類預(yù)測結(jié)果和所述樣本文本的監(jiān)督數(shù)據(jù)，確定目標(biāo)分類損失值；

根據(jù)所述目標(biāo)分類損失值，對所述初始模型進(jìn)行對抗訓(xùn)練，得到目標(biāo)分類模型。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述通過所述初始模型，對詞語的詞向量、詞語的擾動向量和詞語的位置特征進(jìn)行處理，得到所述樣本文本的分類預(yù)測結(jié)果，包括：

通過所述初始模型，對所述詞向量和位置特征進(jìn)行處理，得到所述樣本文本的第一分類預(yù)測結(jié)果；

通過所述初始模型，對所述擾動向量和位置特征進(jìn)行處理，得到所述樣本文本的第二分類預(yù)測結(jié)果。

3.根據(jù)權(quán)利要求2所述的方法，其特征在于，所述根據(jù)所述樣本文本的分類預(yù)測結(jié)果和所述樣本文本的監(jiān)督數(shù)據(jù)，確定目標(biāo)分類損失值，包括：

根據(jù)所述第一分類預(yù)測結(jié)果和所述監(jiān)督數(shù)據(jù)，確定第一分類損失值；

根據(jù)所述第二分類預(yù)測結(jié)果和所述監(jiān)督數(shù)據(jù)，確定第二分類損失值；

根據(jù)所述第一分類損失值和所述第二分類損失值，確定目標(biāo)分類損失值。

4.根據(jù)權(quán)利要求1所述的方法，其特征在于，還包括：

根據(jù)所述詞語的詞向量和所述詞語的詞頻，確定樣本文本的期望和方差；

根據(jù)所述樣本文本的期望和方差、以及所述詞語，確定所述詞語的擾動向量。

5.根據(jù)權(quán)利要求1所述的方法，其特征在于，還包括：

根據(jù)所述詞語的長度，對所述詞語中字進(jìn)行編碼，得到所述詞語的位置特征。

6.根據(jù)權(quán)利要求1所述的方法，其特征在于，還包括：

采用數(shù)據(jù)過濾算法和/或分詞算法對原始文本進(jìn)行處理，得到所述樣本文本。

7.一種分類模型的使用方法，其特征在于，包括：

確定目標(biāo)文本中詞語的詞向量；所述目標(biāo)文件為待分類的軟件測試結(jié)果；

將目標(biāo)文本中詞語的詞向量輸入至目標(biāo)分類模型，得到所述目標(biāo)文本的分類預(yù)測結(jié)果；其中，所述目標(biāo)分類模型通過權(quán)利要求1-7中任一所述的分類模型的訓(xùn)練方法得到。

8.一種分類模型的訓(xùn)練裝置，其特征在于，包括：

詞向量確定模塊，用于將樣本文本輸入特征模型，得到所述樣本文本中詞語的詞向量；其中，所述特征模型包括一個兩層雙向LSTM；所述樣本文本為歷史軟件測試結(jié)果，歷史軟件測試結(jié)果的類型包括環(huán)境問題、數(shù)據(jù)問題、業(yè)務(wù)問題、代碼問題、以及案例問題；

預(yù)測結(jié)果確定模塊，用于通過初始模型，對詞語的詞向量、詞語的擾動向量和詞語的位置特征進(jìn)行處理，得到所述樣本文本的分類預(yù)測結(jié)果；其中，所述初始模型包括至少一個兩層雙向LSTM、注意力機制層和分類層；

分類損失值確定模塊，用于根據(jù)所述樣本文本的分類預(yù)測結(jié)果和所述樣本文本的監(jiān)督數(shù)據(jù)，確定目標(biāo)分類損失值；

分類模型確定模塊，用于根據(jù)所述目標(biāo)分類損失值，對所述初始模型進(jìn)行對抗訓(xùn)練，得到目標(biāo)分類模型。

9.一種分類模型的使用裝置，其特征在于，包括：

詞向量確定模塊，用于確定目標(biāo)文本中詞語的詞向量；所述目標(biāo)文件為待分類的軟件測試結(jié)果；

預(yù)測結(jié)果確定模塊，用于將目標(biāo)文本中詞語的詞向量輸入至目標(biāo)分類模型，得到所述目標(biāo)文本的分類預(yù)測結(jié)果；其中，所述目標(biāo)分類模型通過權(quán)利要求1-7中任一項所述的分類模型的訓(xùn)練方法得到。