[發(fā)明專利]一種基于PGM的問(wèn)題分類方法

在審

• 申請(qǐng)?zhí)枺?/td>: 201710662820.0
• 申請(qǐng)日: 2017-08-04
• 公開(kāi)（公告）號(hào): CN107423438A
• 公開(kāi)（公告）日: 2017-12-01
• 發(fā)明（設(shè)計(jì)）人: 王春輝
• 申請(qǐng)（專利權(quán)）人: 逸途（北京）科技有限公司
• 主分類號(hào): G06F17/30
• 分類號(hào): G06F17/30
• 代理公司: 北京國(guó)坤專利代理事務(wù)所(普通合伙)11491
• 代理人: 趙紅霞

1.一種基于PGM的問(wèn)題分類方法，其特征在于：包括建模和推理；所述建模通過(guò)手工分類訓(xùn)練數(shù)據(jù)集，并將已分類的標(biāo)記數(shù)據(jù)集帶入概率圖模型，構(gòu)建有向無(wú)環(huán)網(wǎng)網(wǎng)絡(luò)結(jié)構(gòu)，計(jì)算各觀測(cè)節(jié)點(diǎn)的先驗(yàn)概率和條件概率，得到模型條件概率分布，所述推理根據(jù)已有網(wǎng)絡(luò)結(jié)構(gòu)及CPD，基于Gibbs算法進(jìn)行貝葉斯推理，進(jìn)而得到問(wèn)題分類。

2.根據(jù)權(quán)利要求1所述的一種基于PGM的問(wèn)題分類方法，其特征在于包括以下步驟。

步驟A，分詞并篩選，用中科院NLPIR漢語(yǔ)分詞系統(tǒng)對(duì)數(shù)據(jù)集中的語(yǔ)句進(jìn)行分詞處理，其分詞正確率可以達(dá)到97.58％，分詞后去除其中的助動(dòng)詞、語(yǔ)氣詞、連接詞等虛詞；

步驟B，問(wèn)題分類體系，根據(jù)對(duì)數(shù)據(jù)集中數(shù)據(jù)的分析，并結(jié)合現(xiàn)有分類方法的經(jīng)驗(yàn)，將數(shù)據(jù)分為6個(gè)大類，73個(gè)小類；

步驟C，構(gòu)建概率圖模型，構(gòu)建概率圖G，其中G＝<U,V>，U是節(jié)點(diǎn)的集合，每個(gè)節(jié)點(diǎn)代表一個(gè)詞語(yǔ)或者一個(gè)分類，V是邊的集合，每條有向邊代表一個(gè)句子中兩個(gè)詞的前后關(guān)系，邊上的值代表該邊對(duì)應(yīng)的前后關(guān)系組合出現(xiàn)的次數(shù)；

步驟D，基于貝葉斯推理的分類方法，上述步驟利用訓(xùn)練數(shù)據(jù)集，構(gòu)建了概率圖模型DAG結(jié)構(gòu)并得到了條件概率分布CPD，至此完成了模型構(gòu)建階段任務(wù)，將待分類數(shù)據(jù)代入概率圖模型并根據(jù)概率理論推測(cè)某種情況出現(xiàn)的概率，是推理階段需要完成的任務(wù)。

3.根據(jù)權(quán)利要求2所述的一種基于PGM的問(wèn)題分類方法，其特征在于：所述步驟A中，避免將每個(gè)語(yǔ)句中的詞都加入概率圖中，對(duì)分詞之后的結(jié)果進(jìn)行計(jì)數(shù)，計(jì)算每個(gè)詞的TF值，設(shè)定TF超過(guò)一定閾值的詞參與構(gòu)建概率圖網(wǎng)絡(luò)。

4.根據(jù)權(quán)利要求1所述的一種基于PGM的問(wèn)題分類方法，其特征在于：所述步驟B中，具體分類過(guò)程進(jìn)行兩個(gè)概率圖模型的訓(xùn)練，一個(gè)是基于6個(gè)大類的概率圖模型，一個(gè)是基于73個(gè)小類的概率圖模型。

5.根據(jù)權(quán)利要求1所述的一種基于PGM的問(wèn)題分類方法，其特征在于：所述步驟C中，根據(jù)訓(xùn)練數(shù)據(jù)集中標(biāo)記的分類結(jié)果，計(jì)算各個(gè)分類的先驗(yàn)概率，并且根據(jù)概率圖G中各個(gè)有向邊的連接關(guān)系和權(quán)值計(jì)算各詞對(duì)各個(gè)分類的條件概率以及詞之間的條件概率，從而得到概率圖模型的DAG結(jié)構(gòu)和條件概率分布CPD。

6.根據(jù)權(quán)利要求1所述的一種基于PGM的問(wèn)題分類方法，其特征在于：所述步驟D中，貝葉斯推理的分類包括Gibbs采樣和概率圖模型的貝葉斯推理過(guò)程，Gibbs采樣其過(guò)程可假設(shè)系統(tǒng)由n個(gè)變量組成，不妨定義系統(tǒng)狀態(tài)X(x1,x2,…,xn)，并且對(duì)于任何一個(gè)變量xi，都能直接從條件分布p(xi|x1,x2,…,xi-1,xi+1,…xn)中為其采樣，貝葉斯推理過(guò)程以待分類問(wèn)題分詞作為輸入，將分類為輸出，將概率圖模型中其他節(jié)點(diǎn)作為非證據(jù)節(jié)點(diǎn)進(jìn)行隨機(jī)采樣，通過(guò)計(jì)算概率圖中節(jié)點(diǎn)的條件概率，更新各個(gè)節(jié)點(diǎn)狀態(tài)，直到達(dá)到系統(tǒng)規(guī)定的采樣閾值次數(shù)，進(jìn)而計(jì)算各個(gè)分類的概率值，根據(jù)最大后驗(yàn)概率假設(shè)，選擇概率值最大的一個(gè)分類作為輸入問(wèn)題的分類結(jié)果。