[發(fā)明專利]基于函數(shù)型寬度學(xué)習(xí)網(wǎng)絡(luò)的復(fù)雜制造過程建模與預(yù)測(cè)方法

在審

• 申請(qǐng)?zhí)枺?/td>: 202211090794.6
• 申請(qǐng)日: 2022-09-07
• 公開（公告）號(hào): CN116306197A
• 公開（公告）日: 2023-06-23
• 發(fā)明（設(shè)計(jì)）人: 周鵬;李笑瑜;李少波;陳光林;張黔富;王堃;張鈞星
• 申請(qǐng)（專利權(quán)）人: 貴州大學(xué)
• 主分類號(hào): G06F30/27
• 分類號(hào): G06F30/27;G06F17/16;G06N3/04;G06N3/08
• 代理公司: 貴陽中新專利商標(biāo)事務(wù)所 52100
• 代理人: 胡緒東

1.一種基于函數(shù)型寬度學(xué)習(xí)網(wǎng)絡(luò)的復(fù)雜制造過程建模與預(yù)測(cè)方法，其特征在于：該方法為：首先，利用若干基函數(shù)對(duì)離散數(shù)據(jù)進(jìn)行函數(shù)型平滑操作，初步擬合至函數(shù)型空間，形成離散數(shù)據(jù)函數(shù)化的初步表達(dá)；將擬合生成的基函數(shù)系數(shù)輸入FBLS中，并利用經(jīng)過稀疏微調(diào)的隨機(jī)特征映射權(quán)重提取數(shù)據(jù)特征，生成特征映射節(jié)點(diǎn)；然后，隨機(jī)生成符合標(biāo)準(zhǔn)正態(tài)分布的q、k、v向量，利用自注意力機(jī)制提取特征映射節(jié)點(diǎn)間的關(guān)系值，對(duì)映射特征進(jìn)一步增強(qiáng)，生成增強(qiáng)節(jié)點(diǎn)；最后，將特征映射節(jié)點(diǎn)與增強(qiáng)節(jié)點(diǎn)整合，形成FBLS的隱藏層矩陣，通過求解隱藏層矩陣的偽逆來計(jì)算出網(wǎng)絡(luò)權(quán)重，實(shí)現(xiàn)FBLS模型的訓(xùn)練。

2.根據(jù)權(quán)利要求1所述的一種基于函數(shù)型寬度學(xué)習(xí)網(wǎng)絡(luò)的復(fù)雜制造過程建模與預(yù)測(cè)方法，其特征在于：該方法具體步驟如下：

(1)將觀測(cè)值平滑得到函數(shù)X(s)，則X(s)表示為：其中，稱之為基函數(shù)，c是基函數(shù)系數(shù)，P是基函數(shù)數(shù)量，s∈S，系數(shù)c通過最小二乘法方法來確定；得到輸入函數(shù)X(s)后，輸入函數(shù)到特征節(jié)點(diǎn)的映射方法表示為：

其中，W_i(s)是和X(s)在相同域S上的權(quán)重函數(shù)，同樣用一組基函數(shù)的線性組合來表示：M為基函數(shù)個(gè)數(shù)，c_i為經(jīng)過系數(shù)自編碼器微調(diào)的隨機(jī)生成的基函數(shù)系數(shù)，是基函數(shù)，其類型和數(shù)量均為網(wǎng)絡(luò)的超參數(shù)，根據(jù)富比尼定理知，對(duì)于一般函數(shù)f,若∫∑|f|＜∞或∑∫|f|＜∞，則∫∑|f|＝∑∫|f|(Fubini，1907)，因此公式(1)寫成：

其中，公式(1)的通過積分近似方法得到，β_i為隨機(jī)生成的偏置矩陣；為激活函數(shù)；特征映射節(jié)點(diǎn)提取數(shù)據(jù)間一定的時(shí)序特征，提取特征節(jié)點(diǎn)間的相關(guān)關(guān)系，將注意力機(jī)制引入到增強(qiáng)節(jié)點(diǎn)的計(jì)算中，將特征映射節(jié)點(diǎn)整合生成特征映射層：Z_in＝[Z₁Z₂...Z_n],則基于注意力機(jī)制的增強(qiáng)節(jié)點(diǎn)α_ij計(jì)算方法為：

α_ij＝qZ_i⊙kZ_j，i，j＝1，2，...，n?????????(3)

其中，⊙表示點(diǎn)乘操作；q、k、v是滿標(biāo)準(zhǔn)正態(tài)分布的隨機(jī)向量，H_i為第i個(gè)增強(qiáng)節(jié)點(diǎn)，得到所有增強(qiáng)節(jié)點(diǎn)后，將m組增強(qiáng)節(jié)點(diǎn)整合得到增強(qiáng)層：H_jm＝[H₁，H₂，…，H_m]，則BLS的隱藏層表示為：

A＝[Z_in|H_im]?????????????????????(5)

寬度學(xué)習(xí)系統(tǒng)的訓(xùn)練標(biāo)簽表示為：

Y＝[Z_in|H_im]W＝AW????????????(6)

其中，W為待學(xué)習(xí)的網(wǎng)絡(luò)權(quán)重，通過公式(7)計(jì)算得到：

其中，是矩陣A的偽逆矩陣；因此，學(xué)習(xí)權(quán)重W問題轉(zhuǎn)化成為求解隱藏層矩陣A的偽逆問題，而矩陣偽逆的求解通過公式(8)實(shí)現(xiàn)：

其中，λ＞0為正則化系數(shù)；I為單位矩陣。