[發(fā)明專利]一種基于有監(jiān)督主題模型的文本分類方法及系統(tǒng)

有效

• 申請(qǐng)?zhí)枺?/td>: 201811398232.1
• 申請(qǐng)日: 2018-11-22
• 公開（公告）號(hào): CN109408641B
• 公開（公告）日: 2020-06-02
• 發(fā)明（設(shè)計(jì)）人: 唐煥玲;竇全勝;于立萍;宋英杰;魯眀羽
• 申請(qǐng)（專利權(quán)）人: 山東工商學(xué)院
• 主分類號(hào): G06F16/35
• 分類號(hào): G06F16/35;G06F16/332;G06K9/62
• 代理公司: 濟(jì)南圣達(dá)知識(shí)產(chǎn)權(quán)代理有限公司 37221
• 代理人: 張慶騫

1.一種基于有監(jiān)督主題模型的文本分類方法，其特征在于，包括：

構(gòu)建SLDA-TC文本分類模型，SLDA-TC文本分類模型的訓(xùn)練文檔集的每個(gè)文檔帶有類別標(biāo)簽；SLDA-TC文本分類模型中需要估計(jì)的參數(shù)不僅包括文本-主題概率分布、主題-詞概率分布，還包括主題-類別概率分布；

訓(xùn)練SLDA-TC文本分類模型，按照SLDA-TC-Gibbs算法進(jìn)行SLDA-TC模型參數(shù)估計(jì)；其中，按照SLDA-TC-Gibbs算法進(jìn)行SLDA-TC模型參數(shù)估計(jì)的過程為：對(duì)每個(gè)詞的隱含主題進(jìn)行采樣，且只從與該詞所在文本類別標(biāo)簽相同的其它訓(xùn)練文本中進(jìn)行隱含主題采樣；在確定每個(gè)詞的隱含主題之后，通過統(tǒng)計(jì)主題-詞、文檔-主題、主題-類別的頻次，計(jì)算得到文本-主題概率分布、主題-詞概率分布和主題-類別概率分布，進(jìn)而建立出主題與類別之間的準(zhǔn)確映射；

待測(cè)文本主題推斷和分類；將待測(cè)文本輸入至訓(xùn)練完成的SLDA-TC文本分類模型，首先對(duì)待測(cè)文檔每個(gè)詞進(jìn)行隱含主題采樣；然后推斷待測(cè)文本的主題概率分布；根據(jù)待測(cè)文檔的主題分布和SLDA-TC模型的主題-類別分布，輸出待測(cè)文本的類別標(biāo)簽。

2.如權(quán)利要求1所述的一種基于有監(jiān)督主題模型的文本分類方法，其特征在于，所述文本-主題概率分布、主題-詞概率分布和主題-類別概率分布均服從Dirichlet分布。

3.如權(quán)利要求1所述的一種基于有監(jiān)督主題模型的文本分類方法，其特征在于，通過多次迭代訓(xùn)練生成用于文本分類的SLDA-TC模型，迭代結(jié)束，通過JS散度評(píng)估主題之間的相似度，通過SLDA-TC的主題-類別分布參數(shù)評(píng)估主題與類別之間的語義相關(guān)度。

4.如權(quán)利要求3所述的一種基于有監(jiān)督主題模型的文本分類方法，其特征在于，所述文本分類結(jié)果評(píng)價(jià)指標(biāo)包括宏平均分類精度、宏平均召回率和宏平均F1值。

5.一種基于有監(jiān)督主題模型的文本分類系統(tǒng)，包括文本輸入裝置、控制器和顯示裝置，所述控制器包括存儲(chǔ)器和處理器，其特征在于，所述存儲(chǔ)器存儲(chǔ)有計(jì)算機(jī)程序，所述程序被處理器執(zhí)行時(shí)能夠?qū)崿F(xiàn)以下步驟：

構(gòu)建SLDA-TC文本分類模型，SLDA-TC文本分類模型的訓(xùn)練文檔集的每個(gè)文檔帶有類別標(biāo)簽；SLDA-TC文本分類模型中需要估計(jì)的參數(shù)不僅包括文本-主題概率分布、主題-詞概率分布，還包括主題-類別概率分布；

訓(xùn)練SLDA-TC文本分類模型，按照SLDA-TC-Gibbs算法進(jìn)行SLDA-TC模型參數(shù)估計(jì)；其中，按照SLDA-TC-Gibbs算法進(jìn)行SLDA-TC模型參數(shù)估計(jì)的過程為：對(duì)每個(gè)詞的隱含主題進(jìn)行采樣，且只從與該詞所在文本類別標(biāo)簽相同的其它訓(xùn)練文本中進(jìn)行隱含主題采樣；在確定每個(gè)詞的隱含主題之后，通過統(tǒng)計(jì)主題-詞、文檔-主題、主題-類別的頻次，計(jì)算得到文本-主題概率分布、主題-詞概率分布和主題-類別概率分布，進(jìn)而建立出主題與類別之間的準(zhǔn)確映射；

待測(cè)文本主題推斷和分類；將待測(cè)文本輸入至訓(xùn)練完成的SLDA-TC文本分類模型，首先對(duì)待測(cè)文檔每個(gè)詞進(jìn)行隱含主題采樣；然后推斷待測(cè)文本的主題概率分布；根據(jù)待測(cè)文檔的主題分布和SLDA-TC模型的主題-類別分布，輸出待測(cè)文本的類別標(biāo)簽。

6.如權(quán)利要求5所述的一種基于有監(jiān)督主題模型的文本分類系統(tǒng)，其特征在于，文本主題概率分布、主題的詞概率分布和主題的類別概率分布均服從Dirichlet分布。

7.如權(quán)利要求5所述的一種基于有監(jiān)督主題模型的文本分類系統(tǒng)，其特征在于，通過多次迭代訓(xùn)練生成用于文本分類的SLDA-TC模型，迭代結(jié)束，通過JS散度評(píng)估主題之間的相似度，通過SLDA-TC的主題-類別分布參數(shù)評(píng)估主題與類別之間的語義相關(guān)度。

8.如權(quán)利要求7所述的一種基于有監(jiān)督主題模型的文本分類系統(tǒng)，其特征在于，所述文本分類結(jié)果評(píng)價(jià)指標(biāo)包括宏平均分類精度、宏平均召回率和宏平均F1值。