[發明專利]分層結構的文本分類方法、系統、電子設備和存儲介質

在審

• 申請號: 202110364490.3
• 申請日: 2021-04-05
• 公開（公告）號: CN114281983A
• 公開（公告）日: 2022-04-05
• 發明（設計）人: 王曉良;李青龍;白劍波;高媛;趙浩然
• 申請（專利權）人: 北京智慧星光信息技術有限公司
• 主分類號: G06F16/35
• 分類號: G06F16/35;G06F16/36
• 代理公司: 北京智宇正信知識產權代理事務所(普通合伙) 11876
• 代理人: 李明卓

1.一種分層結構的文本分類方法，其特征在于，包括：

獲取訓練文本；

基于行業的劃分規則確定訓練文本中所包含的分類種類；

根據分類種類確定訓練文本所對應的分類模型，所述分類模型采用LightGBM分類算法，所述LightGBM分類算法的特征編碼包括基于關鍵詞的特征編碼和基于Word2vec特征編碼，所述關鍵詞包括三類關鍵詞，分別為采用人工預先提取關鍵詞得到人工提取的關鍵詞、采用信息增益提取得到基于信息增益的關鍵詞和采用TF-IDF值提取得到基于TF-IDF的關鍵詞；

將分類模型進行分組，得到多個分組模型，每個分組模型中包含預設個數的分類模型；

將多個分組模型進行分層串聯，得到最終分類模型；

獲取待測試文本；

將待測試文本輸入最終分類模型中進行分類，得到待測試文本的分類結果。

2.根據權利要求1所述的分層結構的文本分類方法，其特征在于，采用信息增益提取得到基于信息增益的關鍵詞的步驟中，包括：

計算每一個詞所對應的信息增益；

將所有詞的信息增益進行降序排列，從信息增益最大值開始選取第一預設個數的詞作為信息增益關鍵詞。

3.根據權利要求2所述的分層結構的文本分類方法，其特征在于，信息增益的計算公式為：

IG(T)＝H(C)-H(C|T)

其中，IG(T)為信息增益；H(C)為信息熵；H(C|T)為條件熵；C_i為文本分類的種類，i＝1，2，3…k；P(C_i)為文本中每一個種類出現的概率；P(word)為某個詞匯word在所有類別中出現的概率；為某個詞匯word在所有類別中不出現的概率；H(C|word)為出現詞匯word的文件的條件熵；P(C_i|word)為出現詞匯word的情況下是C_i類的概率；為不出現詞匯word的文件的條件熵；為不出現詞匯word的情況下是C_i類的概率。

4.根據權利要求1所述的分層結構的文本分類方法，其特征在于，采用TF-IDF值提取得到基于TF-IDF的關鍵詞的步驟中，包括：

分別計算每個類別中所有的詞所對應的TF-IDF值；

分別對每個類別中所有的詞的TF-IDF值進行降序排列，從TF-IDF值最大值開始選取第二預設個數的詞作為每個類別的TF-IDF候選詞；

計算TF-IDF候選詞在所對應類別的語料中出現的頻率和在其它類別的語料中出現的頻率；

若TF-IDF候選詞在所對應類別的語料中出現的頻率小于在其它類別的語料中出現的頻率，則將TF-IDF候選詞去除；

若TF-IDF候選詞在所對應類別的語料中出現的頻率大于或者等于在其它類別的語料中出現的頻率，則將TF-IDF候選詞保留，保留下來的TF-IDF候選詞構成TF-IDF關鍵詞。

5.根據權利要求4所述的分層結構的文本分類方法，其特征在于，TF-IDF值的計算公式為：

TF-IDF＝TF*IDF

或者，

或者，

其中，tf_t,d為詞t在文章d中的出現次數；

IDF＝log₁₀(N/df_t)

其中，df_t為包含詞t的文章數；N為文章總數。

6.根據權利要求1-5中任一所述的分層結構的文本分類方法，其特征在于，基于Word2vec的特征編碼的計算公式為：

其中，wi是第i個詞；vector_i是wi對應的詞向量；m為詞的總個數。