[發明專利]文本分類模型訓練方法、裝置、計算機設備及存儲介質

在審

• 申請號: 202010966556.1
• 申請日: 2020-09-15
• 公開（公告）號: CN112100378A
• 公開（公告）日: 2020-12-18
• 發明（設計）人: 黃海龍;劉廣;高維國
• 申請（專利權）人: 中國平安人壽保險股份有限公司
• 主分類號: G06F16/35
• 分類號: G06F16/35;G06K9/62;G06F40/289;G06N3/04;G06N3/08
• 代理公司: 深圳市精英專利事務所 44242
• 代理人: 蔣學超

1.一種文本分類模型訓練方法，其特征在于，包括：

獲取預存的初始樣本集作為目標樣本集，所述初始樣本集包括樣本文本以及所述樣本文本的標簽；

根據預訓練的BERT模型獲取所述目標樣本集的拓展樣本集，所述拓展樣本集中的樣本文本是所述BERT模型對所述初始樣本集中的樣本文本進行預測后得到的；

將所述目標樣本集與所述拓展樣本集合并得到總樣本集，并根據所述總樣本集對預設的文本分類模型進行訓練。

2.根據權利要求1所述的文本分類模型訓練方法，其特征在于，所述根據所述總樣本集對預設的文本分類模型進行訓練之前，所述方法還包括：

判斷所述總樣本集包含的樣本數量是否大于預設的數量閾值；

若所述總樣本集包含的樣本數量未大于預設的數量閾值，將所述總樣本集作為新的目標樣本集，并返回所述根據預訓練的BERT模型獲取所述目標樣本集的拓展樣本集的步驟；

若所述總樣本集包含的樣本數量大于預設的數量閾值，轉到所述根據所述總樣本集對預設的文本分類模型進行訓練的步驟。

3.根據權利要求1所述的文本分類模型訓練方法，其特征在于，所述根據預訓練的BERT模型獲取所述目標樣本集的拓展樣本集，包括：

從所述目標樣本集中獲取一樣本文本作為第一目標樣本文本；

將所述第一目標樣本文本以及所述第一目標樣本文本的標簽輸入到所述BERT模型中；

接收所述BERT模型輸出的預測文本，并將所述預測文本作為所述拓展樣本集的樣本文本存入到所述拓展樣本集中，所述預測文本的標簽與所述第一目標樣本文本的標簽相同；

將所述第一目標樣本文本從所述目標樣本集中移除，并判斷所述目標樣本集中是否存在樣本文本；

若所述目標樣本集中存在樣本文本，返回所述從所述目標樣本集中獲取一樣本文本作為第一目標樣本文本的步驟。

4.根據權利要求1所述的文本分類模型訓練方法，其特征在于，所述根據所述總樣本集對預設的文本分類模型進行訓練，包括：

對所述總樣本集進行分詞處理以得到分詞樣本集；

對所述分詞樣本集進行詞向量訓練以得到詞向量樣本集；

通過所述詞向量樣本集對所述文本分類模型進行訓練。

5.根據權利要求4所述的文本分類模型訓練方法，其特征在于，所述對所述總樣本集進行分詞處理以得到分詞樣本集，包括：

通過預設的分詞工具對所述總樣本集中的樣本文本進行分詞處理以得到初始分詞文本；

將所述樣本文本的初始分詞文本中的停止詞去除以得到所述樣本文本的分詞文本；

將所述樣本文本的分詞文本存入到所述分詞樣本集中。

6.根據權利要求4所述的文本分類模型訓練方法，其特征在于，所述對所述分詞樣本集進行詞向量訓練以得到詞向量樣本集，包括：

通過預設的詞向量訓練工具對所述分詞樣本集中的分詞文本進行詞向量訓練以得到所述分詞文本的詞向量；

將所述分詞文本的詞向量存入到所述詞向量樣本集中。

7.根據權利要求4所述的文本分類模型訓練方法，其特征在于，所述通過所述詞向量樣本集對所述文本分類模型進行訓練，包括：

從所述詞向量樣本集中獲取一詞向量作為目標詞向量；

通過所述目標詞向量對所述文本分類模型進行訓練；

將所述目標詞向量從所述詞向量樣本集中刪除，并判斷所述詞向量樣本集中是否還存在詞向量；

若所述詞向量樣本集中還存在詞向量，返回所述從所述詞向量樣本集中獲取一詞向量作為目標詞向量的步驟。