[發明專利]一種短文本分類方法、終端設備及存儲介質

有效

• 申請號: 201911366859.3
• 申請日: 2019-12-26
• 公開（公告）號: CN111143560B
• 公開（公告）日: 2022-07-01
• 發明（設計）人: 鄧葉勛;趙建強;黃劍;陳誠;劉曉芳;鄭偉斌
• 申請（專利權）人: 廈門市美亞柏科信息股份有限公司
• 主分類號: G06F16/35
• 分類號: G06F16/35;G06N3/04
• 代理公司: 廈門市精誠新創知識產權代理有限公司 35218
• 代理人: 何家富

1.一種短文本分類方法，其特征在于，包括以下步驟：

S1：采集多個文本數據并進行特征提取后組成訓練集；

S2：分別構建基于卷積神經網絡和循環神經網絡的多個分類模型，并通過訓練集進行訓練后，計算每個分類模型對訓練集中各樣本的輸出為正例樣本的概率和負例樣本的概率；

S3：將所有基于卷積神經網絡的分類模型作為模型集1，將所有基于循環神經網絡的分類模型作為模型集2，將所有分類模型作為模型集3；

S4：根據KS值篩選三個模型集中的兩個模型集合并為融合模型庫I，設定融合模型庫I中的兩個模型集分別為模型集I₁和模型集I₂；每個模型集的KS值的計算方法為：

將訓練集中各樣本按照其在該模型集中輸出為正例樣本的概率的大小順序進行排列后，將訓練集中各樣本平均分為s組，設定每組中包含N個樣本，則該模型集的KS值的計算公式為：

KS＝max({TPR₁-FPR₁，TPR₂-FPR₂，…，TPR_s-FPR_s})，s＝1，2，…，

其中，m表示訓練集中的樣本總數，TPR_s、FPR_s分別表示第s組樣本的真陽率和假陽率；

S5：設定通過融合模型庫I的樣本預測值f(x_i)的計算公式為：

其中，x_i表示第i個樣本，p_i11表示第i個樣本在第1個模型集中輸出為正例樣本的概率，p_i12表示第i個樣本在第1個模型集中輸出為負例樣本的概率，p_i21表示第i個樣本在第2個模型集中輸出為正例樣本的概率，p_i12表示第i個樣本在第2個模型集中輸出為負例樣本的概率，w₁、w₂分別表示權重參數；

S6：設定融合模型庫I的損失函數loss為：

其中，y_i表示樣本x_i的真實值，||.||₂表示求模運算，上標2表示求平方運算；

S7：通過訓練集對融合模型庫I進行迭代訓練，通過調整權重參數w₁和w₂，使得損失函數loss的值最??；

S8：通過訓練后的融合模型庫I對待分類文本數據進行分類。

2.根據權利要求1所述的短文本分類方法，其特征在于：步驟S1具體包括以下步驟：

S11：采集多個文本數據；

S12：對文本數據進行預處理，所述預處理包括分詞、去停用詞和編碼格式化；

S13：計算文本數據的詞向量作為文本數據的特征；

S14：將所有文本數據的特征組成訓練集。

3.根據權利要求2所述的短文本分類方法，其特征在于：步驟S11中還包括對內容為多條短消息的文本數據進行分段處理。

4.根據權利要求3所述的短文本分類方法，其特征在于：分段處理的方法為：逐條接收包含中文字符的短消息，判斷當前短消息的長度是否大于長度閾值，如果大于，則將該短消息作為獨立段落；否則將該短消息添加至分段任務列表中，判斷分段任務列表中包含的短消息的個數是否大于個數閾值，如果大于，將分段任務列表中的所有短消息組合一個段落，清空分段任務列表。

5.根據權利要求2所述的短文本分類方法，其特征在于：文本數據詞向量采用Word2vec算法進行計算。

6.一種短文本分類終端設備，其特征在于：包括處理器、存儲器以及存儲在所述存儲器中并在所述處理器上運行的計算機程序，所述處理器執行所述計算機程序時實現如權利要求1～5中任一所述方法的步驟。

7.一種計算機可讀存儲介質，所述計算機可讀存儲介質存儲有計算機程序，其特征在于，所述計算機程序被處理器執行時實現如權利要求1～5中任一所述方法的步驟。