[發明專利]文本分類方法、裝置和電子設備

在審

• 申請號: 202011437652.3
• 申請日: 2020-12-11
• 公開（公告）號: CN112463968A
• 公開（公告）日: 2021-03-09
• 發明（設計）人: 孟欣冉;閆躍;郭松;劉通
• 申請（專利權）人: 中國工商銀行股份有限公司
• 主分類號: G06F16/35
• 分類號: G06F16/35;G06F40/126
• 代理公司: 中科專利商標代理有限責任公司 11021
• 代理人: 李春偉

1.一種文本分類方法，包括：

獲取輸入文本，所述輸入文本是針對指定場景的，所述指定場景具有對應的文本結構信息；

響應于所述輸入文本，獲取與所述輸入文本對應的結構化文本信息，所述結構化文本信息包括所述輸入文本的關鍵信息和與所述文本結構信息對應的文本信息；以及

利用文本分類模型處理所述結構化文本信息，確定所述輸入文本的類別。

2.根據權利要求1所述的方法，其中，所述輸入文本包括業務摘要文本，所述文本結構信息包括至少一個屬性信息；

所述結構化文本信息通過如下方式確定：

基于正則表達式匹配的方式從所述輸入文本中獲取與所述屬性信息相匹配的文本屬性信息以及獲取所述輸入文本的關鍵信息；以及

拼接所述文本屬性信息和所述輸入文本的關鍵信息，獲得所述結構化文本信息。

3.根據權利要求2所述的方法，其中，所述指定場景是記賬場景；

所述文本結構信息包括：賬號關聯信息、交易類型、交易日期、交易金額、交易渠道中至少一種；

所述輸入文本的關鍵信息包括：所述業務摘要文本的標題、主題、副標題、業務標簽或者備注信息中至少一種；以及

所述方法還包括：在所述利用文本分類模型處理所述結構化文本信息以確定所述輸入文本的類別之后，

基于與所述文本結構信息對應的文本信息中至少部分信息和所述輸入文本的類別更新記賬信息。

4.根據權利要求1所述的方法，其中，所述文本分類模型通過如下方式進行訓練；

基于針對所述指定場景的第一訓練數據集合對所述文本分類模型進行第一次訓練，得到模型參數集合；以及

基于針對所述指定場景的第二訓練數據集合對所述文本分類模型進行第二次訓練，以微調所述模型參數集合。

5.根據權利要求4所述的方法，其中，所述基于針對所述指定場景的第一訓練數據集合對所述文本分類模型進行第一次訓練，得到模型參數集合包括：

重復執行如下操作直至達到預設訓練輪數，其中，針對每一個訓練輪，

從所述第一訓練數據集合中獲取指定個數的訓練數據；以及

將所述指定個數的訓練數據以及所述指定個數的訓練數據各自的標簽信息輸入所述文本分類模型，通過隨機梯度下降算法更新所述文本分類模型的模型參數。

6.根據權利要求4所述的方法，其中，所述基于針對所述指定場景的第二訓練數據集合對所述文本分類模型進行第二次訓練，以微調所述模型參數集合包括：

基于至少兩個測試數據集合分別對所述文本分類模型進行調試，以獲取至少兩個微調后的模型參數集合；以及

從所述至少兩個微調后的模型參數集合中選取最優的微調后的模型參數集合，其中，與所述最優的微調后的模型參數集合對應的文本分類模型的測試準確度最高。

7.根據權利要求4所述的方法，其中：

所述文本結構信息包括至少一個屬性信息，所述文本分類模型包括預訓練模型；

所述第一訓練數據集合包括具有標簽信息的歷史業務數據集合以及擴展業務數據集合；

所述擴展業務數據集合通過如下方式確定：

隨機數生成與所述至少一個屬性信息對應的隨機文本屬性信息；以及

基于所述隨機文本屬性信息以及所述歷史業務數據集合中歷史業務數據的關鍵信息和標簽信息生成擴展業務數據，以獲取所述擴展業務數據集合。

8.根據權利要求1至7任一項所述的方法，其中，所述文本結構信息是基于用戶輸入信息確定的，或者所述文本結構信息是基于預設規則從針對所述指定場景的多個輸入文本中確定的。

9.根據權利要求1至7任一項所述的方法，其中，所述利用文本分類模型處理所述結構化文本信息，確定所述輸入文本的類別包括：

獲取所述結構化文本信息中各詞的詞向量，以確定所述結構化文本信息的指定維度向量；以及

基于預訓練模型處理所述指定維度向量以確定所述結構化文本信息的類型。