[發明專利]一種基于TF-IDF矩陣和膠囊網絡的文本分類方法

有效

• 申請號: 201910303094.2
• 申請日: 2019-04-16
• 公開（公告）號: CN110097096B
• 公開（公告）日: 2023-04-25
• 發明（設計）人: 喻梅;胡悅;劉志強;于健;趙滿坤;于瑞國;王建榮;張功
• 申請（專利權）人: 天津大學
• 主分類號: G06V10/774
• 分類號: G06V10/774;G06V10/764;G06F40/242;G06F40/289;G06N3/0464;G06N3/045;G06N3/08
• 代理公司: 天津市北洋有限責任專利代理事務所 12201
• 代理人: 李林娟

本發明公開了一種基于TF?IDF矩陣和膠囊網絡的文本分類方法，包括：對分詞處理后的文本數據采用TF?IDF矩陣進行分析，獲得滿足預設條件的全局閾值α，對每個文本數據進行個性化分析，以獲得每個文本數據對應的閾值tsubgt;j/subgt;及其所構成的集合Ssubgt;α/subgt;；比較全局閾值α和個性分析文本獲得的閾值αsubgt;i/subgt;，以此獲得每個文本數據對應的最終閾值βsubgt;i/subgt;及其所構成的集合Ssubgt;β/subgt;，并根據最終獲得的集合Ssubgt;β/subgt;，處理文本數據集、進行詞頻分析，同時根據詞匯在字典中出現的順序為其進行標號，從而實現文本向量嵌入；通過doc2vec算法，使用文本矩陣對嵌入的文本向量進行表達，并作為基于膠囊網絡的文本分類的輸入，訓練膠囊網絡文本分類模型。本發明能夠有效去除文本數據中對文本分類影響低的一些詞匯，減少文本特征。

技術領域

本發明涉及自然語言處理和信息檢索領域，尤其涉及一種基于TF-IDF(詞頻-逆文本頻率指數)矩陣和膠囊網絡的文本分類方法。

背景技術

文本分類過程首先需要對數據進行文本預處理和文本特征處理，獲得文本的特征向量，為分類過程的后續操作奠定基礎。傳統的機器學習方法在進行特征處理的過程中需要人工指定特征的具體形式從而對原始數據進行表示。

傳統文本分類方法文本特征維度較高，數據較稀疏，表征能力較弱。現有文本分類方法如KNN(K-最近鄰)算法，其主要靠周圍有限的鄰近的樣本，但其輸出的可解釋性不強，計算量大，當樣本不平衡時，有可能導致當輸入一個新樣本時，該樣本的K個鄰居中大容量類的樣本占多數。

發明內容

本發明提供了一種基于TF-IDF矩陣和膠囊網絡的文本分類方法，本發明能夠有效去除文本數據中對文本分類影響低的一些詞匯，減少文本特征，降低文本詞嵌入的向量維度，增加文本分類器效率，同時能夠有效減少卷積神經網絡中的反向傳播過程可能為文本分類器模型帶來的一些弊端，詳見下文描述：

一種基于TF-IDF矩陣和膠囊網絡的文本分類方法，所述方法包括以下步驟：

對分詞處理后的文本數據采用TF-IDF矩陣進行分析，獲得滿足預設條件的全局閾值α，對每個文本數據進行個性化分析，以獲得每個文本數據對應的閾值t_j及其所構成的集合S_α；

比較全局閾值α和個性分析文本獲得的閾值α_i，以此獲得每個文本數據對應的最終閾值β_i及其所構成的集合S_β，并根據最終獲得的集合S_β，處理文本數據集、進行詞頻分析，同時根據詞匯在字典中出現的順序為其進行標號，從而實現文本向量嵌入；

通過doc2vec算法，使用文本矩陣對嵌入的文本向量進行表達，并作為基于膠囊網絡的文本分類的輸入，訓練膠囊網絡文本分類模型。

其中，所述預設條件具體為：

α＝min(S)

其中，m_i,j表示TF-IDF矩陣M中第i行第j列的元素，|{m_i,j:m_i,j≤α}|表示矩陣M中不大于全局閾值α的元素數量，|{m_i,j:m_i,j≥0}|則為所有非0元素的數量，a、b均為預設參數；D為原文本數據集；D_i為文本數據集中的文本。

進一步地，所述比較全聚閾值α和個性分析文本獲得的閾值α_i，獲得每個文本數據對應的最終閾值β_i具體為：

S_β＝{β_i|i∈|D|}。