[發(fā)明專利]一種基于主題模型的輿情新聞事件跟蹤方法

有效

• 申請?zhí)枺?/td>: 202010141439.1
• 申請日: 2020-03-04
• 公開（公告）號: CN112115327B
• 公開（公告）日: 2023-10-20
• 發(fā)明（設計）人: 馬子娟;岳昆;段亮;吳鑫然;李維華;趙天資
• 申請（專利權）人: 云南大學
• 主分類號: G06F16/951
• 分類號: G06F16/951;G06F16/9535;G06F40/289;G06F40/242;G06F40/216;G06Q50/00
• 代理公司: 云南凌云律師事務所 53207
• 代理人: 董建國

1.一種輿情新聞事件跟蹤方法，其特征在于執(zhí)行過程分為以下4個步驟：

（1）輿情新聞數(shù)據(jù)在線獲取與預處理：首先選取需要進行跟蹤的輿情新聞事件，然后持續(xù)地從社交網(wǎng)絡和新聞網(wǎng)頁上爬取該事件的新聞數(shù)據(jù)，將在線獲取的數(shù)據(jù)進行預處理，去除停用詞并進行分詞；

（2）構建MBTM（Minority Biterm Topic Model）并推斷輿情新聞事件隱含主題：定義輿情新聞數(shù)據(jù)詞典，提取二元組，給定參數(shù)構建MBTM，利用該模型對預處理后的輿情新聞數(shù)據(jù)進行建模，并推斷輿情新聞事件的隱含主題；

（3）輿情新聞事件主題演化軌跡跟蹤：設置時間節(jié)點，在每個時間節(jié)點處對模型當前的主題-詞分布進行采樣，獲取對應主題中的詞項，通過觀察不同時間節(jié)點對應詞項的演變，得到特定輿情新聞事件主題的演化軌跡；

（4）基于JS散度和主題強度的輿情新聞事件主題的演化軌跡分析：計算相鄰時間節(jié)點主題-詞分布間的JS散度，衡量特定輿情新聞事件主題在特定時間段內(nèi)是否發(fā)生演化；將輿情新聞事件的主題強度看作該事件主題在上一個時間節(jié)點到當前時間節(jié)點內(nèi)被討論的次數(shù)，計算主題在每個時間節(jié)點的強度，從而監(jiān)控輿情新聞事件的發(fā)展情況。

2.根據(jù)權利要求1所述的方法，特征在于，所述步驟（2）進一步包括以下具體步驟：

2.1：定義輿情新聞數(shù)據(jù)詞典

獲取步驟1.2.2預處理后得到的文字內(nèi)容，將其中包含的全部詞項存儲在輿情新聞數(shù)據(jù)詞典中，記為中，詞典即為新聞數(shù)據(jù)中出現(xiàn)的所有詞項的集合，其中，S為詞典中詞項的總數(shù)，即詞典的大小，詞典中沒有重復的詞項，即；

2.2：提取輿情新聞數(shù)據(jù)中的二元組

將每條輿情新聞數(shù)據(jù)作為一個單獨的上下文單元，其中任何兩個不同的詞項構成一個二元組，一個包含3個不同詞項的上下文單元將生成3個二元組表示為

(2-1)

按照式2-1的規(guī)則提取每條輿情新聞數(shù)據(jù)文字內(nèi)容中的二元組，得到二元組集合，其中，|B|為該集合中二元組的個數(shù)，b_i為第i個二元組，，,，和為二元組b_i中的兩個詞項；二元組的提取過程可以通過對I的一次掃描來完成；

2.3：構建MTBM

用輿情新聞數(shù)據(jù)詞典W中的S個詞項來表示K個主題，K為設定的主題總數(shù)，，z_k為主題的指示變量，k為主題序號，θ為數(shù)據(jù)集的主題分布，為主題z_k的主題-詞分布，分別為整個數(shù)據(jù)集的主題分布和每個主題下的主題-詞分布的先驗參數(shù)，MBTM按照以下生成過程構建：

2.3.1：從參數(shù)為α的狄利克雷分布中對所有新聞數(shù)據(jù)的主題分布θ進行隨機采樣，從而推斷出概率分布中的隱含變量θ、得到具體的概率分布，即有，表示為

（2-2）

其中，α是K維參數(shù)，，是Gamma函數(shù)，上述過程對應于圖2中隨機變量間的概率依賴關系；

2.3.2：對每個主題z_k，基于參數(shù)為的狄利克雷分布對每個主題進行隨機采樣，得到主題-詞分布，簡稱為詞項分布，即有；

2.3.3：對二元組集合中的每個二元組b：基于參數(shù)θ的多項式分布，為每個二元組b隨機采樣一個主題z，即有z~Multinomial(θ)，基于參數(shù)的多項式分布對詞項w₁(b)和w₂(b)進行隨機采樣，即有w₁(b), w₂(b)~Multinomial()；

2.4：通過MBTM推斷輿情新聞事件的隱含主題

MBTM模型在步驟2.3模型生成過程的基礎上，將主題分布θ和每個主題的詞項分布通過求邊際積分的收縮變分表示方法，從后驗分布中去除，收縮變分表示的MBTM圖模型如圖3所示，只對隱含主題變量z進行推斷，z服從于變分多項分布Multinomial，為該多項式分布的變分參數(shù)，輿情新聞事件隱含主題按如下步驟進行推斷：

2.4.1：隨機初始化N_k和N_k,w，令時間步長t=1，對每個二元組b，更新變分參數(shù)，首先對于變分參數(shù)，使用變分推斷中經(jīng)常使用的坐標上升法，對變分后驗分布的變分下限（Evidence Lower Bound, ELBO）進行最大化，該過程采用零階近似方法，即在近似時只保留零階泰勒展開，最終得到的近似更新公式為，從而克服變分期望項的較高計算代價帶來的困難：

（2-3）

其中，N_k和N_k,w為表示執(zhí)行更新和恢復參數(shù)所需要的全部數(shù)據(jù)的統(tǒng)計量，當一個新的二元組b出現(xiàn)時，隨機地更新統(tǒng)計量，從而迭代地更新變分參數(shù)直至收斂；\b表示統(tǒng)計量計數(shù)時要去掉當前二元組b；

2.4.2：基于得到的變分參數(shù)，按照公式2-4和2-5估計N_k和N_k,w：

（2-4）

（2-5）

2.4.3：按照公式2-6定義Robbins-Monro序列，用來描述當時間步長t改變時，模型在新數(shù)據(jù)和歷史數(shù)據(jù)之間的權衡，隨著步長t的增加，對新數(shù)據(jù)變得不敏感，τ和κ是Robbins-Monro序列的超參數(shù)；

（2-6）

2.4.4：和分別是N_k和N_k,w進行了一次平行坐標上升更新后的無偏估計，描述一個二元組是從二元組集合B中通過均勻分布被抽取出來的，平行坐標上升利用前一時刻的參數(shù)進行迭代更新，對剩余參數(shù)進行最大似然估計，動態(tài)計算局部最優(yōu)解，以此逼近局部最優(yōu)解，使用這種估計方法，重新按照公式2-7和2-8來更新N_k和N_k,w，從而得到N_k和N_k,w的更新規(guī)則：

（2-7）

（2-8）

2.4.5：更新時間步長t：在N_k和N_k,w的每次更新操作后將時間步長t加1；

2.4.6：在對所有的二元組進行了更新操作后，由于全局參數(shù)θ_k和僅與充分統(tǒng)計量N_k、N_k,w和模型參數(shù)有關，僅需要更新這些充分統(tǒng)計量，就可以進行全局參數(shù)的更新，從而推斷出輿情新聞事件的隱含主題分布和主題-詞分布，全局參數(shù)θ_k和的更新公式如下：

（2-9）

（2-10）

其中，符號“”表示成正比例，N_k和N_k,w表示對整個二元組集合B更新后的樣本充分統(tǒng)計量。