[發明專利]文檔主題確定方法及相關設備

在審

• 申請號: 201810350016.3
• 申請日: 2018-04-18
• 公開（公告）號: CN110390092A
• 公開（公告）日: 2019-10-29
• 發明（設計）人: 鄭胤;黃俊洲
• 申請（專利權）人: 騰訊科技（深圳）有限公司
• 主分類號: G06F17/27
• 分類號: G06F17/27
• 代理公司: 深圳市深佳知識產權代理事務所(普通合伙) 44285
• 代理人: 王仲凱

1.一種文檔主題的確定方法，其特征在于，包括：

獲得目標文檔及神經網絡模型，所述神經網絡模型用于在模型參數的限制下得到預設數量的第一中間參數；

將所述目標文檔輸入至所述神經網絡模型中，得到第一中間參數；

將所述第一中間參數輸入至概率分布模型中，得到第二中間參數的概率密度函數；

從所述第二中間參數的概率密度函數中采樣得到目標第二中間參數；

將所述目標第二中間參數輸入至折棍算法中，得到所述目標文檔的主題權重。

2.根據權利要求1所述的文檔主題的確定方法，其特征在于，所述神經網絡模型的訓練過程包括：

將文檔樣本輸入至神經網絡模型中，得到所述神經網絡模型的第一中間參數；

將所述神經網絡模型的第一中間參數輸入至概率分布模型中，得到所述神經網絡模型的第二中間參數；

將所述神經網絡模型的第二中間參數輸入至折棍算法中，得到所述文檔樣本的主題權重值；

將所述文檔樣本的主題權重值輸入至文檔生成模型中，得到所述文檔樣本中每個單詞的出現概率，并依據所述出現概率計算所述文檔樣本的生成概率；

判斷所述文檔樣本的生成概率是否滿足目標函數對應的優化目標；

若所述文檔樣本的生成概率不滿足所述優化目標，則調整所述神經網絡模型的模型參數及所述文檔生成模型的參數，并返回將新的文檔樣本輸入至調整模型參數的神經網絡模型中，得到調整模型參數的神經網絡模型的第一中間參數；

若所述文檔樣本的生成概率滿足所述優化目標，則將調整模型參數的神經網絡模型作為訓練得到的神經網絡模型。

3.根據權利要求2所述的文檔主題的確定方法，其特征在于，所述目標函數對應的公式為：

其中，L(W_1:N|Φ,ψ)表示目標函數；W_1:N表示文檔樣本的詞袋模型，其中N表示文檔樣本中的單詞個數；φ表示文檔生成模型中的參數；ψ表示神經網絡的參數；E表示期望，q_ψ(v|w_1：N)表示向量v的概率密度函數；p(W_1:N|π,Φ)表示依據文檔生成模型及神經網絡得到的文檔樣本生成概率；KL為相對熵，表示的是概率密度函數q_ψ(v|w_1：N)與概率密度函數p(v|α)之間的距離，α為GEM分布的集中參數；

相應地，所述判斷所述文檔樣本的生成概率是否滿足所述優化目標，包括：

判斷所述文檔樣本的生成概率輸入至所述目標函數對應的公式后得到的值是否滿足預設的訓練結束條件。

4.根據權利要求3所述的文檔主題的確定方法，其特征在于，所述調整所述神經網絡模型的模型參數及所述文檔生成模型的參數，包括：

使用反向梯度傳播算法，調整所述神經網絡模型的模型參數及所述文檔生成模型的參數。

5.根據權利要求1所述的文檔主題的確定方法，其特征在于，所述將所述目標第二中間參數輸入至折棍算法中，得到所述目標文檔的主題權重，包括：

將所述目標第二中間參數輸入至折棍算法中，得到各個備選的主題權重；

將滿足預設條件的主題權重作為所述目標文檔的主題權重。

6.一種文檔主題的確定裝置，其特征在于，包括：

文檔及模型獲得單元，用于獲得目標文檔及神經網絡模型，所述神經網絡模型用于在模型參數的限制下得到預設數量的第一中間參數；

第一中間參數獲得單元，用于將所述目標文檔輸入至所述神經網絡模型中，得到第一中間參數；

概率密度函數得到單元，用于將所述第一中間參數輸入至概率分布模型中，得到第二中間參數的概率密度函數；

第二中間參數獲得單元，用于從所述第二中間參數的概率密度函數中采樣得到目標第二中間參數；

主題權重確定單元，用于將所述目標第二中間參數輸入至折棍算法中，得到所述目標文檔的主題權重。