[發明專利]一種基于BiLSTM和TextRank進行新聞文本分類的方法

在審

• 申請號: 202211047433.3
• 申請日: 2022-08-29
• 公開（公告）號: CN115481245A
• 公開（公告）日: 2022-12-16
• 發明（設計）人: 陳靜靜;吳睿振;王凜;張永興;孫華錦
• 申請（專利權）人: 山東云海國創云計算裝備產業創新中心有限公司
• 主分類號: G06F16/35
• 分類號: G06F16/35;G06F16/33;G06F40/289;G06F40/30;G06N3/04;G06N3/08;G06K9/62
• 代理公司: 北京連和連知識產權代理有限公司 11278
• 代理人: 張濤;楊帆

本發明提出一種基于BiLSTM和TextRank進行新聞文本分類的方法，包括：對文本數據集進行預處理得到文本分詞向量，通過文本數據集的文本分詞向量訓練BiLSTM分類模型并得到關于數據集的全局語義的特征向量；通過TextRank算法對文本數據集的文本分詞向量提取文本關鍵詞并基于文本關鍵詞得到關于文本關鍵詞的特征向量通過TextRank算法從文本數據集的文本分詞向量提取文本關鍵詞并基于文本關鍵詞得到關于文本關鍵詞的特征向量；基于全局語義的特征向量和文本關鍵詞的特征向量構建全連接神經網絡分類模型，并通過全連接神經網絡分類模型對目標文本分別進行分類。通過本發明提出的一種基于BiLSTM和TextRank進行新聞文本分類的方法，可顯著提高新聞文本分類的準確性。

技術領域

本發明屬于計算機領域，具體涉及一種基于BiLSTM和TextRank進行新聞文本分類的方法、系統、設備及可讀存儲介質。

背景技術

新聞是人們獲取信息、了解時事熱點的重要途徑。隨著用戶碎片化的使用場景逐漸增多，大量新聞文本信息均以短文本的形式呈現并進行傳播。與長文本相比，新聞短文本的內容具有詞匯不規范、特征維度稀疏和語義模糊的問題，因此現有的文本分類方法直接應用于新聞短文本分類中效果不佳。

傳統文本分類算法通常基于向量空間模型，該方法將文本數據用特征詞及權值構成的向量表示。但使用該方法在表示新聞短文本時，高維稀疏問題與語義缺失問題則更加嚴重。在此基礎上進一步考慮了文本的“詞”粒度和“文本”粒度，對詞向量模型與LDA主題模型(Latent Dirichlet Allocation,LDA)進行融合，在分類效果上有一定的提升。近年來，深度學習在自然語言處理領域取得了顯著的進展，例如，Hochreiter等提出了長短時記憶神經網絡(Long Short-Term Memory,LSTM)，解決了傳統RNN梯度爆炸和消失的問題。由于LSTM能捕捉全局詞義的特征，因此在文本分類中取得了不錯的成績。

但對新聞文本的處理傳統的分類方式上仍然存在較大的改進空間。

發明內容

為解決上述問題，本發明提出一種基于BiLSTM和TextRank進行新聞文本分類的方法，包括：

對文本數據集進行預處理得到文本分詞向量，通過所述文本數據集的文本分詞向量訓練BiLSTM分類模型并得到關于所述數據集的全局語義的特征向量；

通過TextRank算法從所述文本數據集的文本分詞向量提取文本關鍵詞并基于所述文本關鍵詞得到關于文本關鍵詞的特征向量；

基于所述全局語義的特征向量和所述文本關鍵詞的特征向量構建全連接神經網絡分類模型，并通過所述全連接神經網絡分類模型對目標文本分別進行分類。

在本發明的一些實施方式中，對文本數據集進行預處理包括：

通過jieba分詞工具對所述文本數據集中的文本進行分詞，并過濾掉停用詞得到文本分詞結果。

在本發明的一些實施方式中，方法還包括：

基于所述文本分詞結果加載GloVe詞嵌入模型將所述文本分詞結果轉換成文本分詞向量。

在本發明的一些實施方式中，通過所述文本數據集的文本分詞向量訓練BiLSTM分類模型并得到關于所述數據集的全局語義的特征向量包括：

將所述文本分詞向量和對應分類類別輸入到BiLSTM模型中進行模型訓練，并將訓練好的BiLSTM模型層的向量作為所述文本數據集的全局語義的特征向量。

在本發明的一些實施方式中，通過TextRank算法從所述文本數據集的文本分詞向量提取文本關鍵詞并基于所述文本關鍵詞得到關于文本關鍵詞的特征向量包括：