[發(fā)明專利]基于改進(jìn)細(xì)菌覓食算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的方法

在審

• 申請(qǐng)?zhí)枺?/td>: 202011038665.3
• 申請(qǐng)日: 2020-09-28
• 公開（公告）號(hào): CN112132280A
• 公開（公告）日: 2020-12-25
• 發(fā)明（設(shè)計(jì)）人: 邱少明;王雪珂;杜秀麗;呂亞娜
• 申請(qǐng)（專利權(quán)）人: 大連大學(xué)
• 主分類號(hào): G06N3/08
• 分類號(hào): G06N3/08
• 代理公司: 大連智高專利事務(wù)所(特殊普通合伙) 21235
• 代理人: 畢進(jìn)

本發(fā)明公開基于改進(jìn)細(xì)菌覓食算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的方法，包括：確定神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，對(duì)其相關(guān)參數(shù)進(jìn)行設(shè)定；初始化細(xì)菌的位置；將細(xì)菌分量轉(zhuǎn)化為神經(jīng)網(wǎng)絡(luò)的權(quán)值和閾值；對(duì)細(xì)菌進(jìn)行翻轉(zhuǎn)操作，獲取翻轉(zhuǎn)一次后的適應(yīng)度值，若適應(yīng)度值變好，細(xì)菌則按照翻轉(zhuǎn)方向移動(dòng)相應(yīng)的步長(zhǎng)；獲取細(xì)菌能量，淘汰細(xì)菌能量較差的一半，繁殖較好的另一半，子細(xì)菌具有和母細(xì)菌相同的位置和步長(zhǎng)；獲取當(dāng)前細(xì)菌的信息素濃度，計(jì)算轉(zhuǎn)移概率，更新細(xì)菌位置，得到更新后的適應(yīng)度值；得出群體最優(yōu)解，將所述最優(yōu)解轉(zhuǎn)化為神經(jīng)網(wǎng)絡(luò)的權(quán)值和閾值。本方法優(yōu)化了神經(jīng)網(wǎng)絡(luò)的權(quán)值、閾值，提高了神經(jīng)網(wǎng)絡(luò)的性能，使預(yù)測(cè)結(jié)果更準(zhǔn)確。

技術(shù)領(lǐng)域

本發(fā)明涉及數(shù)據(jù)挖掘領(lǐng)域，具體涉及基于改進(jìn)細(xì)菌覓食算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的方法。

背景技術(shù)

近年來，群智能優(yōu)化算法應(yīng)用廣泛，大多都是基于高等生物作為啟發(fā)對(duì)象，而Passino在2002年提出了細(xì)菌覓食算法(BacterialForagingOptimization，BFO),從微生物的行為機(jī)制出發(fā)，模擬細(xì)菌對(duì)環(huán)境感知的變化，通過細(xì)菌群體的競(jìng)爭(zhēng)與協(xié)作來實(shí)現(xiàn)優(yōu)化。為研究仿生計(jì)算提供了新的思路。BFO算法作為連續(xù)域的優(yōu)化算法，具有可并行搜索、易于跳出局部極小值的優(yōu)點(diǎn)，被廣泛應(yīng)用于圖像分析處理、控制器優(yōu)化設(shè)計(jì)和神經(jīng)網(wǎng)絡(luò)訓(xùn)練等多方面。

為了提高BFO算法的性能，相關(guān)學(xué)者從趨化步長(zhǎng)的角度出發(fā)，賦予細(xì)菌自適應(yīng)調(diào)節(jié)趨化步長(zhǎng)的能力。Datta等人根據(jù)自適應(yīng)增量調(diào)制原理提出了具有自適應(yīng)趨化步長(zhǎng)的BFO算法；Majhi等人設(shè)計(jì)了自動(dòng)趨化步長(zhǎng)調(diào)節(jié)的數(shù)學(xué)模型，并將其應(yīng)用于神經(jīng)網(wǎng)絡(luò)的訓(xùn)練；Chen等人根據(jù)生物自適應(yīng)搜索策略，提出了自適應(yīng)的協(xié)同型菌群覓食優(yōu)化算法；這些算法在不增加復(fù)雜性的前提下，提高了細(xì)菌尋優(yōu)的效率，但是只能確保細(xì)菌的局部搜索能力。不少學(xué)者還從算法融合方面進(jìn)行了研究，Kim等人在BFO算法中引入了遺傳算法的交叉、變異算子，提出了GABFO算法；Luh等人從細(xì)菌進(jìn)化的角度，提出了細(xì)菌進(jìn)化算法(BEA)；Dasgupta等人將BFO算法與粒子群算法相結(jié)合，在細(xì)菌的趨化算子內(nèi)嵌入粒子群方法，但此時(shí)算法中的趨化算子并沒有起到作用。徐玉韜等人將差分進(jìn)化算法中的交叉和變異操作引入BFO算法，增加了種群的多樣性，但同時(shí)也容易導(dǎo)致群體中優(yōu)秀個(gè)體的缺失。從現(xiàn)有的細(xì)菌覓食算法相關(guān)文獻(xiàn)可以看出，大多數(shù)改進(jìn)都是針對(duì)趨化算子和繁殖算子，對(duì)遷移算子的改進(jìn)較少，現(xiàn)有算法沒有利用搜索的任何信息，遷移后的解對(duì)于提高算法全局尋優(yōu)能力的幫助有限。

神經(jīng)網(wǎng)絡(luò)具有模式識(shí)別、函數(shù)逼近、優(yōu)化和聯(lián)想記憶等性能，因此廣泛流行于研究領(lǐng)域和應(yīng)用領(lǐng)域。在眾多的神經(jīng)網(wǎng)絡(luò)模型中，應(yīng)用最多的是BP神經(jīng)網(wǎng)絡(luò)。BP神經(jīng)網(wǎng)絡(luò)具有較好的非線性和自學(xué)習(xí)能力，但由于其依賴于梯度下降法，常岀現(xiàn)易振蕩、收斂速度慢，易陷入局部極小值、泛化能力不強(qiáng)等缺點(diǎn)。針對(duì)BP算法不具備全局尋優(yōu)的缺點(diǎn)，不少學(xué)者將PSO粒子群算法應(yīng)用到神經(jīng)網(wǎng)絡(luò)權(quán)值修改中，也有部分學(xué)者將細(xì)菌覓食算法應(yīng)用到神經(jīng)網(wǎng)絡(luò)權(quán)值修改中，均取得了較好的結(jié)果。還有部分學(xué)者提出混合PSO的細(xì)菌覓食算法，如ABiswas所提出的BSO算法，在趨化操作后對(duì)細(xì)菌執(zhí)行了一個(gè)僅使用社會(huì)信息(全局最優(yōu))的粒子移動(dòng)操作；WKorani提出BF-PSO混合算法，用粒子的速度代替細(xì)菌翻轉(zhuǎn)方向，并且在翻轉(zhuǎn)和前進(jìn)時(shí)不再要求是單位方向，但保留了步長(zhǎng)限制；而劉小龍所提出的混合算法PSO-BFO與BF-PSO類似，也是用粒子速度代替翻轉(zhuǎn)方法，但要求其翻轉(zhuǎn)方向是單位方向。上述方法在測(cè)試函數(shù)或?qū)嶋H問題上取得了比標(biāo)準(zhǔn)細(xì)菌覓食算法更好的性能，但是還沿用了細(xì)菌的覓食過程，特別是在趨化過程中，都是先進(jìn)行個(gè)任意單位方向的翻轉(zhuǎn)，然后再進(jìn)行多步的前進(jìn)操作，其算法的復(fù)雜性沒有改進(jìn)，收斂速度也不夠快。

發(fā)明內(nèi)容