[發(fā)明專利]一種基于改進(jìn)粒子群算法的RBF神經(jīng)網(wǎng)絡(luò)優(yōu)化方法

在審

• 申請?zhí)枺?/td>: 202010371490.1
• 申請日: 2020-05-06
• 公開（公告）號: CN113627606A
• 公開（公告）日: 2021-11-09
• 發(fā)明（設(shè)計(jì)）人: 尚尚;何康寧;王召斌;楊童;劉明;李維燕;陳康寧;李朕
• 申請（專利權(quán)）人: 江蘇科技大學(xué)
• 主分類號: G06N3/08
• 分類號: G06N3/08;G06N3/00
• 代理公司: 南京正聯(lián)知識產(chǎn)權(quán)代理有限公司 32243
• 代理人: 杭行

本發(fā)明屬于神經(jīng)網(wǎng)絡(luò)優(yōu)化技術(shù)領(lǐng)域，具體地說，是一種基于改進(jìn)粒子群算法的RBF神經(jīng)網(wǎng)絡(luò)優(yōu)化方法，用分段函數(shù)作為粒子群慣性權(quán)重變更策略，用變換后的sigmoid函數(shù)作為粒子群學(xué)習(xí)因子的變更策略，通過改進(jìn)后的粒子群算法尋找最優(yōu)的RBF神經(jīng)網(wǎng)絡(luò)初始參數(shù)，以此訓(xùn)練出更精確的預(yù)測模型對海雜波進(jìn)行預(yù)測。本發(fā)明將粒子群尋優(yōu)過程分為三個(gè)階段：第一階段主要尋找全局最優(yōu)的大體位置，第二階段從全局搜索向局部探索進(jìn)化，第三階段主要進(jìn)行局部精細(xì)探索。三個(gè)尋優(yōu)階段分工明確，使得粒子群具備了較強(qiáng)的全局搜索和局部探索能力，提高了尋優(yōu)的精度和收斂速度，提高了RBF神經(jīng)網(wǎng)絡(luò)的精度和穩(wěn)定性。

技術(shù)領(lǐng)域

本發(fā)明屬于神經(jīng)網(wǎng)絡(luò)優(yōu)化技術(shù)領(lǐng)域，具體地說，是一種基于改進(jìn)粒子群算法的RBF神經(jīng)網(wǎng)絡(luò)優(yōu)化方法。

背景技術(shù)

隨著雷達(dá)技術(shù)的不斷升級，各式雷達(dá)在民事和軍事方面得到越來越廣泛的應(yīng)用。雷達(dá)進(jìn)行海上探測時(shí)，回波當(dāng)中摻雜著強(qiáng)度較高的海雜波，不管是對海洋環(huán)境的監(jiān)測還是海上目標(biāo)的檢測都有著極大的影響。在這樣的背景下，實(shí)現(xiàn)低成本、高精度的海雜波預(yù)測和抑制，將大大提高雷達(dá)對海洋的監(jiān)測能力，對國家海洋環(huán)境的觀測以及國防力量的增強(qiáng)均起到關(guān)鍵作用。

學(xué)者們通過對海雜波統(tǒng)計(jì)特性的深入研究，建立了很多經(jīng)典的海雜波統(tǒng)計(jì)模型，但是這些模型精度低、泛化能力弱，達(dá)不到預(yù)測海雜波的目標(biāo)。因此，學(xué)者們從混沌理論出發(fā)，希望通過學(xué)習(xí)海雜波內(nèi)在混沌特性，建立模型來實(shí)現(xiàn)精確的預(yù)測。近年來蓬勃發(fā)展的神經(jīng)網(wǎng)絡(luò)在處理非線性問題上有著得天獨(dú)厚的優(yōu)勢，而徑向基(Radial Basis Function,RBF)神經(jīng)網(wǎng)絡(luò)憑借自身多方面優(yōu)勢自然成為建立海雜波預(yù)測模型的首選。訓(xùn)練RBF神經(jīng)網(wǎng)絡(luò)時(shí)，網(wǎng)絡(luò)的初始參數(shù)是根據(jù)數(shù)據(jù)特征隨機(jī)產(chǎn)生或者根據(jù)聚類算法計(jì)算生成，但是這些方法都不能精確的找到最優(yōu)的初始參數(shù)。同時(shí)，初始參數(shù)的選取對網(wǎng)絡(luò)訓(xùn)練精度的影響較大，如果選取不好，可能增加了網(wǎng)絡(luò)模型訓(xùn)練的精度和不穩(wěn)定性。針對這樣的劣勢，引進(jìn)粒子群優(yōu)化(Particle Swarm Optimization,PSO)算法，用PSO算法尋找網(wǎng)絡(luò)的最佳初始參數(shù)，增加了網(wǎng)絡(luò)預(yù)測的可靠性和穩(wěn)定性。

粒子群算法的尋優(yōu)是模仿鳥類捕食過程，鳥群中每一只鳥都搜索當(dāng)前最靠近食物的那只鳥的周邊范圍。粒子群中的每一個(gè)粒子都代表一個(gè)潛在的解，用速度、位置和適應(yīng)度值三項(xiàng)指標(biāo)表征粒子的特征，粒子的速度表達(dá)式控制著粒子的移動距離和移動方向，粒子在空間當(dāng)中通過跟蹤個(gè)體極值和全局極值來更新自己的位置。粒子群隨著迭代次數(shù)的增加，不斷更新自身位置，向全局最優(yōu)靠近，最后尋得問題的最優(yōu)解。粒子群算法已經(jīng)在優(yōu)化問題的求解、計(jì)算機(jī)、電力系統(tǒng)、控制等很多工程領(lǐng)域得到了成功運(yùn)用，將其用于優(yōu)化RBF神經(jīng)網(wǎng)絡(luò)，尋找網(wǎng)絡(luò)的最佳初始參數(shù)，彌補(bǔ)了上述RBF神經(jīng)網(wǎng)絡(luò)精度不足和穩(wěn)定性較差的缺點(diǎn)。

雖然PSO算法的引入彌補(bǔ)了RBF神經(jīng)網(wǎng)絡(luò)的先天不足，但是從PSO算法自身尋優(yōu)的角度來說，還存在諸多問題。首先，粒子群算法當(dāng)中包含很多參數(shù)，這些參數(shù)的設(shè)置沒有系統(tǒng)的理論指導(dǎo)，針對不同的問題，參數(shù)的設(shè)置往往不盡相同，需要進(jìn)行多次試驗(yàn)，根據(jù)經(jīng)驗(yàn)來選取合適的參數(shù)，這從一定程度上加大了工程應(yīng)用的工作量。其次，粒子群優(yōu)化算法存迭代過程中容易出現(xiàn)“早熟”的現(xiàn)象，當(dāng)一個(gè)問題涉及到很高維度的時(shí)候，粒子往往收斂到一個(gè)局部最優(yōu)點(diǎn)之后，就在這個(gè)局部最優(yōu)附近徘徊而不再繼續(xù)收斂，其實(shí)當(dāng)前粒子尋得的并不是全局最優(yōu)解，粒子陷入局部最優(yōu)無法跳出，就導(dǎo)致了“早熟”。最后，粒子群優(yōu)化算法面臨的另一個(gè)問題就是到了迭代后期，由于搜索的步長得不到合理的調(diào)整，在最優(yōu)解附近表現(xiàn)出搜索步長過長的問題，導(dǎo)致的結(jié)果就是粒子不能一直向著最優(yōu)解方向收斂，而是在最優(yōu)解上方擺動，收斂速度慢。