[發(fā)明專利]基于混合隱馬爾可夫模型的原子事件標(biāo)簽的提取方法

在審

• 申請?zhí)枺?/td>: 201810649233.2
• 申請日: 2018-06-22
• 公開（公告）號: CN109086306A
• 公開（公告）日: 2018-12-25
• 發(fā)明（設(shè)計(jì)）人: 葉偉靜;張文杰;梅峰;盧新岱;姚一楊;戴波;王彥波
• 申請（專利權(quán)）人: 國網(wǎng)浙江省電力有限公司;國網(wǎng)浙江省電力有限公司信息通信分公司
• 主分類號: G06F17/30
• 分類號: G06F17/30
• 代理公司: 杭州華鼎知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 33217
• 代理人: 項(xiàng)軍

1.基于混合隱馬爾可夫模型的原子事件標(biāo)簽的提取方法，其特征在于，包括以下步驟：

預(yù)處理：獲取訓(xùn)練語料庫中的原子事件標(biāo)簽；將語料庫中的所有語句分割為單詞，對每個(gè)單詞添加詞性標(biāo)簽；對每個(gè)單詞在每個(gè)語句中的相應(yīng)位置添加相應(yīng)位置標(biāo)簽；對于訓(xùn)練語料庫，將原子事件標(biāo)簽、詞性標(biāo)簽和相應(yīng)位置標(biāo)簽映射到一個(gè)隱藏狀態(tài)序列中；對于測試語料庫，將詞性標(biāo)簽和相應(yīng)位置標(biāo)簽映射到一個(gè)觀測狀態(tài)序列中；

模型訓(xùn)練：根據(jù)隱藏狀態(tài)序列中的前后隱藏狀態(tài)以及觀測狀態(tài)序列，建立二階HMM模型；

提取階段：基于二階HMM模型，利用Viterbi算法計(jì)算得到測試語料庫中的最優(yōu)觀測狀態(tài)序列，根據(jù)最優(yōu)觀測狀態(tài)序列提取詞性標(biāo)簽、相應(yīng)位置標(biāo)簽所對應(yīng)的原子事件標(biāo)簽。

2.根據(jù)權(quán)利要求1所述的基于混合隱馬爾可夫模型的原子事件標(biāo)簽的提取方法，其特征在于，所述根據(jù)隱藏狀態(tài)序列中的前后隱藏狀態(tài)以及觀測狀態(tài)序列，建立二階HMM模型包括以下步驟：

在一個(gè)句子中，定義隱藏狀態(tài)序列S＝{s₁,s₂,…,s_i,…s_T}，(1≤i≤T)，其中，s_i為隱藏狀態(tài)，T是隱藏狀態(tài)序列的長度；

定義詞性標(biāo)簽序列PO＝{po₁,po₂,…,po_i,…po_Q}，(1≤i≤Q)，其中，po_i是詞性標(biāo)簽，Q是詞性標(biāo)簽序列的長度；

定義相應(yīng)位置標(biāo)簽序列RO＝{ro₁,ro₂,…,ro_i,…ro_L}，(1≤i≤L)，其中ro_i是相應(yīng)位置標(biāo)簽，L是相應(yīng)位置標(biāo)簽序列的長度；

計(jì)算初始狀態(tài)分布概率π_i并轉(zhuǎn)換為初始狀態(tài)分布概率矩陣π：

其中，c(s_i)為從隱藏狀態(tài)s_i開始的所有隱藏序列的總和，∑_j∈[0,N]c(s_j)為從任意隱藏狀態(tài)開始的隱藏序列的總和；

計(jì)算狀態(tài)轉(zhuǎn)移概率a_ijk并轉(zhuǎn)換為狀態(tài)轉(zhuǎn)移概率矩陣a：

其中，c(s_i,s_j,s_k)為t-2時(shí)刻隱藏狀態(tài)s_i、t-1時(shí)刻隱藏狀態(tài)s_j和t時(shí)刻目的隱藏狀態(tài)s_k的狀態(tài)轉(zhuǎn)移次數(shù)之和，∑_l∈[1,N]c(s_i,s_j,s_l)為t-2時(shí)刻隱藏狀態(tài)s_i、t-1時(shí)刻隱藏狀態(tài)s_j和t時(shí)刻任意類別原子事件標(biāo)簽的目的隱藏狀態(tài)s_k的狀態(tài)轉(zhuǎn)移次數(shù)之和；

計(jì)算詞性標(biāo)簽的觀察分布概率b_ij(k)并轉(zhuǎn)換為詞性標(biāo)簽的觀察分布概率矩陣b：

其中，c(s_i,s_j,p_k)為t-1時(shí)刻隱藏狀態(tài)s_i、t時(shí)刻隱藏狀態(tài)s_j和t時(shí)刻詞性標(biāo)簽p_k的狀態(tài)轉(zhuǎn)移次數(shù)之和，∑_l∈[1,M]c(s_i,s_j,p_l)為t-1時(shí)刻隱藏狀態(tài)s_i、t時(shí)刻隱藏狀態(tài)s_j和t時(shí)刻任意類型詞性標(biāo)簽p_k的狀態(tài)轉(zhuǎn)移次數(shù)之和；

計(jì)算相應(yīng)位置標(biāo)簽觀測分布概率c_j(k)并轉(zhuǎn)換為相應(yīng)位置標(biāo)簽觀測分布矩陣c：

其中，c(e_j,r_k)為t時(shí)刻的狀態(tài)隱藏狀態(tài)s_i和相應(yīng)位置標(biāo)簽r_k的狀態(tài)轉(zhuǎn)移次數(shù)之和，∑_l∈[1,L]c(e_j,r_l)為t時(shí)刻的隱藏狀態(tài)e_j和任意相應(yīng)位置標(biāo)簽r_k的狀態(tài)轉(zhuǎn)移次數(shù)之和；

以隱藏狀態(tài)序列S、詞性標(biāo)簽序列PO、相應(yīng)位置標(biāo)簽序列RO、初始狀態(tài)分布概率矩陣π、狀態(tài)轉(zhuǎn)移概率矩陣a、詞性標(biāo)簽的觀察分布概率矩陣b、相應(yīng)位置標(biāo)簽觀測分布矩陣c為參數(shù)，建立二階HMM模型。

3.根據(jù)權(quán)利要求1所述的基于混合隱馬爾可夫模型的原子事件標(biāo)簽的提取方法，其特征在于，在所述提取階段之后還包括糾錯(cuò)階段，所述糾錯(cuò)階段包括以下步驟：

依據(jù)正確原子事件標(biāo)簽類型，將錯(cuò)誤事件分為六個(gè)父類；

將每一父類的所有錯(cuò)誤事件分為三個(gè)子類；

利用K－msans聚類算法進(jìn)行錯(cuò)誤事件分析：根據(jù)二階HMM模型，確定錯(cuò)誤屬于哪個(gè)父類；

計(jì)算單詞的上下文特征向量和三個(gè)子類聚類中心的距離，若距離小于閾值T則進(jìn)行錯(cuò)誤糾正，閾值T的計(jì)算公式如下：

其中，A是訓(xùn)練語料庫中父類原子事件標(biāo)簽的數(shù)量，s是統(tǒng)計(jì)結(jié)果中錯(cuò)誤分類的父類原子事件標(biāo)簽的數(shù)量，p_i是單詞的上下文特征向量，m_j是第j子類聚類中心，η是協(xié)調(diào)兩個(gè)觀察者的影響的系數(shù)，k是聚類中心的數(shù)量。