[發(fā)明專利]最優(yōu)主題數(shù)獲取方法及裝置

有效

• 申請?zhí)枺?/td>: 201611265195.8
• 申請日: 2016-12-30
• 公開（公告）號: CN106815214B
• 公開（公告）日: 2019-11-22
• 發(fā)明（設(shè)計(jì)）人: 趙耕弘;張霞;趙立軍;崔朝輝
• 申請（專利權(quán)）人: 東軟集團(tuán)股份有限公司
• 主分類號: G06F17/27
• 分類號: G06F17/27
• 代理公司: 11227 北京集佳知識產(chǎn)權(quán)代理有限公司
• 代理人: 薛嬌;王寶筠<國際申請>=<國際公布>=

本發(fā)明實(shí)施例公開了一種最優(yōu)主題數(shù)獲取方法及裝置，基于主題數(shù)對應(yīng)的兩兩主題間的第一相似度、主題數(shù)對應(yīng)的兩兩詞語間的第二相似度以及主題數(shù)，計(jì)算主題數(shù)對應(yīng)的用于衡量主題數(shù)的優(yōu)劣的平衡相似度；將平衡相似度滿足預(yù)設(shè)條件時(shí)的主題數(shù)確定為最優(yōu)主題數(shù)。從而可以基于如下原則獲取最優(yōu)主題數(shù)：主題數(shù)盡可能多，以保證最大程度的語義覆蓋，但是卻不能過多；各個(gè)主題盡可能表達(dá)獨(dú)立含義，盡量不存在語義交叉；相同含義的詞語越少越好，以保證用最少的詞語來表示盡可能多的語義。

技術(shù)領(lǐng)域

本發(fā)明涉及機(jī)器學(xué)習(xí)技術(shù)領(lǐng)域，更具體地說，涉及一種最優(yōu)主題數(shù)獲取方法及裝置。

背景技術(shù)

在自然語言處理過程中，文檔對于計(jì)算機(jī)通常被當(dāng)作是一個(gè)無限維度的向量。而這種無限維度的向量對于計(jì)算機(jī)本身又是不可被計(jì)算的，這時(shí)就需要對文本進(jìn)行降維處理，讓它以一定維度的數(shù)學(xué)向量儲(chǔ)存在計(jì)算機(jī)中以便計(jì)算。主題模型(Topic Model)就是一種常見的文檔降維方法。主題模型的實(shí)質(zhì)是對文檔中隱含主題的一種建模方法。具體的，主題模型就是通過已知的“詞語-文檔”矩陣進(jìn)行訓(xùn)練，得到“詞語-主題”矩陣和“主題-文檔”矩陣的過程。其中，“詞語-文檔”矩陣表示每個(gè)文檔中每個(gè)詞語的詞頻(即出現(xiàn)的概率)；“詞語-主題”矩陣表示每個(gè)主題中每個(gè)詞語出現(xiàn)的概率；“主題-文檔”矩陣表示每個(gè)文檔中每個(gè)主題出現(xiàn)的概率。

上述訓(xùn)練過程，需要先獲取若干個(gè)主題數(shù)，然后基于每一個(gè)主題數(shù)，通過“詞語-文檔”矩陣進(jìn)行訓(xùn)練，得到每一個(gè)主題數(shù)對應(yīng)的“詞語-主題”矩陣和“主題-文檔”矩陣，然后從上述若干個(gè)主題中選擇一個(gè)最優(yōu)的主題數(shù)，將該最優(yōu)主題數(shù)對應(yīng)的“詞語-主題”矩陣和“主題-文檔”矩陣作為最優(yōu)結(jié)果輸出。

顯然，主題數(shù)是主題模型的一個(gè)重要參數(shù)。如果最優(yōu)主題數(shù)選擇不當(dāng)(主題數(shù)過少或過多)會(huì)導(dǎo)致主題模型的輸出結(jié)果的質(zhì)量較差。因此，如何選擇最優(yōu)主題數(shù)成為亟待解決的問題。

發(fā)明內(nèi)容

本發(fā)明的目的是提供一種最優(yōu)主題數(shù)獲取方法及裝置，以提高主題模型的輸出結(jié)果的質(zhì)量。

為實(shí)現(xiàn)上述目的，本發(fā)明提供了如下技術(shù)方案：

一種最優(yōu)主題數(shù)獲取方法，包括：

獲取主題模型中使用的若干個(gè)主題數(shù)；

對應(yīng)每一個(gè)所述主題數(shù)，獲取所述主題數(shù)對應(yīng)的，每個(gè)主題中每個(gè)詞語出現(xiàn)的第一概率，以及每個(gè)文檔中每個(gè)主題出現(xiàn)的第二概率；

基于所述第一概率和所述第二概率，計(jì)算兩兩主題間的第一相似度，以及兩兩詞語間的第二相似度；

基于所述主題數(shù)對應(yīng)的兩兩主題間的第一相似度、所述主題數(shù)對應(yīng)的兩兩詞語間的第二相似度以及所述主題數(shù)，計(jì)算所述主題數(shù)對應(yīng)的平衡相似度，所述平衡相似度的大小用于衡量主題數(shù)的優(yōu)劣；

將平衡相似度滿足預(yù)設(shè)條件時(shí)的主題數(shù)確定為最優(yōu)主題數(shù)。

通過上述過程可知，本發(fā)明實(shí)施例中，基于主題數(shù)對應(yīng)的兩兩主題間的第一相似度、主題數(shù)對應(yīng)的兩兩詞語間的第二相似度以及主題數(shù)，計(jì)算主題數(shù)對應(yīng)的用于衡量主題數(shù)的優(yōu)劣的平衡相似度；將平衡相似度滿足預(yù)設(shè)條件時(shí)的主題數(shù)確定為最優(yōu)主題數(shù)。從而可以基于如下原則獲取最優(yōu)主題數(shù)：主題數(shù)盡可能多，以保證最大程度的語義覆蓋，但是卻不能過多；各個(gè)主題盡可能表達(dá)獨(dú)立含義，盡量不存在語義交叉；相同含義的詞語越少越好，以保證用最少的詞語來表示盡可能多的語義。

上述方法，優(yōu)選的，所述基于所述主題數(shù)對應(yīng)的兩兩主題間的第一相似度、所述主題數(shù)對應(yīng)的兩兩詞語間的第二相似度以及所述主題數(shù)，計(jì)算所述主題數(shù)對應(yīng)的平衡相似度，包括：

計(jì)算所述主題數(shù)對應(yīng)的兩兩主題間的第一相似度的第一和值，以及所述主題數(shù)對應(yīng)的兩兩詞語間的第二相似度的第二和值；

將所述第一和值和所述第二和值的乘積與所述主題數(shù)的平方值做商運(yùn)算，得到所述主題數(shù)對應(yīng)的平衡相似度。