[發(fā)明專利]一種基于粒子群優(yōu)化算法的增量貝葉斯網(wǎng)學(xué)習(xí)方法

在審

• 申請?zhí)枺?/td>: 202010453090.5
• 申請日: 2020-05-26
• 公開（公告）號: CN111612160A
• 公開（公告）日: 2020-09-01
• 發(fā)明（設(shè)計(jì)）人: 朱允剛;肖俊義;凌雨楠;楊能;余海濤
• 申請（專利權(quán)）人: 吉林大學(xué)
• 主分類號: G06N20/00
• 分類號: G06N20/00;G06N3/00
• 代理公司: 蘇州創(chuàng)策知識產(chǎn)權(quán)代理有限公司 32322
• 代理人: 周錦全

本發(fā)明涉及網(wǎng)絡(luò)優(yōu)化技術(shù)領(lǐng)域，具體為一種基于粒子群優(yōu)化算法的增量貝葉斯網(wǎng)學(xué)習(xí)方法，該方法至少包括：采用一種與傳統(tǒng)鄰接矩陣、鄰接表不同的、類似于二維數(shù)組的貝葉斯網(wǎng)絡(luò)編碼方法；充分發(fā)揮離散粒子群優(yōu)化算法在最優(yōu)搜索領(lǐng)域的優(yōu)勢，并與貝葉斯網(wǎng)恰當(dāng)結(jié)合，完成貝葉斯網(wǎng)結(jié)構(gòu)學(xué)習(xí)過程中最優(yōu)結(jié)構(gòu)的搜索過程；將粒子群算法應(yīng)用于貝葉斯網(wǎng)絡(luò)學(xué)習(xí)中，并模擬現(xiàn)實(shí)中數(shù)據(jù)增長的環(huán)境，將普通的一次性學(xué)習(xí)過程改為增量學(xué)習(xí)過程，使網(wǎng)絡(luò)模型的結(jié)構(gòu)和參數(shù)隨時(shí)間動態(tài)更新，以適應(yīng)新數(shù)據(jù)的不斷到來。

技術(shù)領(lǐng)域

本發(fā)明屬于網(wǎng)絡(luò)優(yōu)化技術(shù)領(lǐng)域，尤其涉及一種基于粒子群優(yōu)化算法的增量貝葉斯網(wǎng)學(xué)習(xí)方法。

背景技術(shù)

伴隨著大數(shù)據(jù)的快速發(fā)展，以概率統(tǒng)計(jì)為基礎(chǔ)的統(tǒng)計(jì)關(guān)系模型受到廣泛關(guān)注，成為研究熱點(diǎn)。而貝葉斯網(wǎng)作為一個重要的研究手段，它將概率論和圖論相結(jié)合，是一種描述變量間因果關(guān)系的經(jīng)典概率圖模型。與深度學(xué)習(xí)相比，貝葉斯網(wǎng)可以通過圖結(jié)構(gòu)蘊(yùn)含的因果關(guān)系對決策結(jié)果進(jìn)行解釋，并易于結(jié)合先驗(yàn)知識，可處理不完備數(shù)據(jù)，近年來已成為人工智能領(lǐng)域中處理不確定性問題的重要工具，受到工業(yè)界和學(xué)術(shù)界的極大關(guān)注。

但是，在現(xiàn)實(shí)世界中很多數(shù)據(jù)是由數(shù)據(jù)源持續(xù)性、增量式生成的，增量學(xué)習(xí)是以新數(shù)據(jù)順序更新學(xué)習(xí)結(jié)果的在線學(xué)習(xí)過程，它不丟棄已有學(xué)習(xí)結(jié)果，而是不斷地利用新數(shù)據(jù)更新和求精已經(jīng)學(xué)習(xí)到的結(jié)果，很適合處理這類情況。近年來，很多學(xué)者研究了貝葉斯網(wǎng)的增量學(xué)習(xí)方法。但傳統(tǒng)貝葉斯網(wǎng)增量學(xué)習(xí)方法往往假定目標(biāo)概率分布不變，但領(lǐng)域問題本身時(shí)常固有動態(tài)變化特性，當(dāng)目標(biāo)概率分布發(fā)生變化時(shí)，已有學(xué)習(xí)方法難以有效處理。

現(xiàn)有的粒子群優(yōu)化算法結(jié)構(gòu)簡單、參數(shù)較少，且在高維空間尋優(yōu)方面收斂速度快、魯棒性好，但是當(dāng)它應(yīng)用于離散問題時(shí)的表現(xiàn)并不好，為此，本發(fā)明擬采用粒子群優(yōu)化算法來解決貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)的問題。

發(fā)明內(nèi)容

本發(fā)明的目的在于提供一種基于粒子群優(yōu)化算法的增量貝葉斯網(wǎng)學(xué)習(xí)方法，將粒子群算法應(yīng)用于貝葉斯網(wǎng)絡(luò)學(xué)習(xí)中，并模擬現(xiàn)實(shí)中數(shù)據(jù)增長的環(huán)境，將普通的一次性學(xué)習(xí)過程改為增量學(xué)習(xí)過程，使網(wǎng)絡(luò)模型的結(jié)構(gòu)和參數(shù)隨時(shí)間動態(tài)更新，以適應(yīng)新數(shù)據(jù)的不斷到來。

為實(shí)現(xiàn)上述目的，本發(fā)明采用的技術(shù)方案是：

本發(fā)明提供一種基于粒子群優(yōu)化算法的增量貝葉斯網(wǎng)學(xué)習(xí)方法，該方法至少包括：

采用一種與傳統(tǒng)鄰接矩陣、鄰接表不同的、類似于二維數(shù)組的貝葉斯網(wǎng)絡(luò)編碼方法；

充分發(fā)揮離散粒子群優(yōu)化算法在最優(yōu)搜索領(lǐng)域的優(yōu)勢，并與貝葉斯網(wǎng)恰當(dāng)結(jié)合，完成貝葉斯網(wǎng)結(jié)構(gòu)學(xué)習(xí)過程中最優(yōu)結(jié)構(gòu)的搜索過程；

當(dāng)數(shù)據(jù)呈現(xiàn)增量式增長時(shí)，在每批次生成一個與當(dāng)前數(shù)據(jù)集匹配度最高的貝葉斯網(wǎng)絡(luò)，下一批次的網(wǎng)絡(luò)則基于當(dāng)前批次的網(wǎng)絡(luò)和新數(shù)據(jù)的輸入而產(chǎn)生；當(dāng)最后一批數(shù)據(jù)輸入并利用粒子群算法進(jìn)行處理后，生成的貝葉斯網(wǎng)絡(luò)則為最終的目標(biāo)網(wǎng)絡(luò)；接下來，根據(jù)最后生成的貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)計(jì)算出網(wǎng)絡(luò)的參數(shù)，分別表示為條件概率分布和邊緣概率分布；

首先要根據(jù)粒子群算法，求得初始的貝葉斯網(wǎng)絡(luò)，粒子群算法優(yōu)化過程基本步驟如下：

步驟1：根據(jù)所讀入的數(shù)據(jù)，初始化粒子群體的位置和速度；

步驟2：根據(jù)評價(jià)函數(shù)，計(jì)算每個粒子的最優(yōu)值并保存粒子的個體最優(yōu)值和最優(yōu)位置，并保存群體的最優(yōu)位置；

步驟3：通過比較得出群體的最優(yōu)值，再根據(jù)公式來更新粒子的速度和位置；

步驟4：判斷是否滿足截至條件，若滿足，則得到基于粒子群優(yōu)化的貝葉斯網(wǎng)結(jié)果，否則轉(zhuǎn)向步驟2；

通過結(jié)合粒子群優(yōu)化算法求得初始的貝葉斯網(wǎng)絡(luò)之后，再根據(jù)新來的數(shù)據(jù)，利用增量學(xué)習(xí)的方法，進(jìn)一步更新改進(jìn)各個粒子的位置和速度，直到得到最終所需要的貝葉斯網(wǎng)絡(luò)；

本方法的所有具體實(shí)現(xiàn)步驟如下：