[發明專利]一種基于語義詞網絡的短文本主題挖掘方法

有效

• 申請號: 201910400416.5
• 申請日: 2019-05-14
• 公開（公告）號: CN110134958B
• 公開（公告）日: 2021-05-18
• 發明（設計）人: 張雷;經偉;蔡洋;陸恒楊;徐鳴;王崇駿
• 申請（專利權）人: 南京大學
• 主分類號: G06F40/258
• 分類號: G06F40/258;G06F40/30;G06F40/284
• 代理公司: 南京瑞弘專利商標事務所(普通合伙) 32249
• 代理人: 劉珊珊

1.一種基于語義詞網絡的短文本主題挖掘方法，其特征在于，包括如下步驟：

步驟1，模型初始化階段：采集相關領域外部語料構建外部語料庫；對外部語料庫與目標語料庫進行預處理操作，使外部語料庫與目標語料庫中的語料轉化為能夠被word2vec模型接受的格式；將外部語料庫作為輸入，訓練word2vec模型，使word2vec模型輸出指定詞向量；通過訓練好的word2vec模型提取目標語料庫中的詞向量數據；

步驟2，主題單元構建階段：

2)-a根據目標語料庫D＝{d₁，d₂，...，d_n}中詞語的共現關系生成基礎詞共現網絡，具體步驟為：

步驟2)-a-1)建立點集合V、邊集合E、邊屬性集合R，初始狀態為空；

步驟2)-a-2)對于文檔d_k＝{w₁，w₂，...，w_m}中的每個單詞w_i，如果單詞w_i未出現在集合V中，則將其加入V中，k∈{1，2，…，n}；

步驟2)-a-3)對于文檔d_k中所有單詞對w_i，w_j，如果未存在于集合E中，則將其加入E中，并且在集合R中加入邊屬性r_ij＝S_ij，s_ij；其中，S_ij＝{k}表示包含該詞對的文檔號集合，s_ij表示單詞w_i和w_j之間的語義相似度屬性；令S_ij＝{k}，若邊e_ij已存在于集合E中，則在邊屬性r_ij中的文檔號集合S_ij中加入文檔號k；

2)-b在詞共現網絡的基礎上融入語義信息構建語義詞網絡，具體步驟為：

步驟2)-b-1)將目標語料庫與外部語料庫中詞語的詞向量數據對比，對于目標語料庫未登錄的詞，設定相應詞向量為空，即為后續無語義信息；

步驟2)-b-2)設置閾值δ；

步驟2)-b-3)對于詞共現網絡中每一對單詞對w_i和w_j，按照如下公式計算單詞對之間的語義相似度：其中，和分別表示詞w_i和w_j對應的詞向量；

步驟2)-b-4)判斷每一對單詞對w_i和w_j間是否有邊連接；若是，轉到步驟2)-b-5)；否則，轉到步驟2)-b-6)；

步驟2)-b-5)將語義相似度s_ij記入邊屬性r_ij＝S_ij，s_ij中；

步驟2)-b-6)判斷語義相似度s_ij是否滿足s_ij＞δ；若是，轉到步驟2)-b-7)；否則，該單詞對不做任何操作；

步驟2)-b-7)在邊集合E中加入邊e_ij，并在邊屬性集合R中加入邊屬性r_ij＝S_ij，s_ij，令s_ij＝sim(w_i，w_j)；

步驟2)-c對于語義詞網絡中每個詞w_i計算逆文檔頻率，公式如下：

其中|d∈D：w_i∈d|表示包含w_i的文檔的個數，N_D表示語料庫中文檔總數；

步驟2)-d在語義詞網絡中尋找滿足以下條件的語義詞三角：

語義詞三角中的三個單詞節點之間互相有邊連接，且來自不同文檔子網絡的連接部分；

步驟3，模型訓練階段：對步驟2得到的所有語義詞三角，隨機初始化語義詞三角的主題分布；通過吉布斯采樣得到當前語義詞三角分布，并且由此計算文檔主題分布和主題詞語分布更新參數，循環迭代，直到達到最大迭代次數或吉布斯采樣收斂，將最后得到的吉布斯采樣結果作為語義詞三角主題分布；

步驟4，結果輸出階段：根據步驟3得到的語義詞三角主題分布，推算出原文檔的主題分布。