[發(fā)明專(zhuān)利]基于有向圖的深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)構(gòu)建方法和機(jī)器人系統(tǒng)

有效

• 申請(qǐng)?zhí)枺?/td>: 201810010058.2
• 申請(qǐng)日: 2018-01-05
• 公開(kāi)（公告）號(hào): CN108364068B
• 公開(kāi)（公告）日: 2021-04-13
• 發(fā)明（設(shè)計(jì)）人: 朱定局
• 申請(qǐng)（專(zhuān)利權(quán)）人: 華南師范大學(xué)
• 主分類(lèi)號(hào): G06N3/08
• 分類(lèi)號(hào): G06N3/08;G06N3/02
• 代理公司: 廣州華進(jìn)聯(lián)合專(zhuān)利商標(biāo)代理有限公司 44224
• 代理人: 謝曲曲

本發(fā)明提供一種基于有向圖的深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)構(gòu)建方法和機(jī)器人系統(tǒng)，該方法包括：獲取初始深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的每個(gè)輸入節(jié)點(diǎn)對(duì)應(yīng)的輸入變量之間的連接關(guān)系，得到有向圖；確定各個(gè)輸入節(jié)點(diǎn)與待改造隱層的隱層節(jié)點(diǎn)之間的匹配關(guān)系；根據(jù)有向圖的所述匹配關(guān)系確定待改造隱層的各個(gè)隱層節(jié)點(diǎn)之間的連接關(guān)系，得到目標(biāo)深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)。此外，還提供了一種深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)構(gòu)建裝置、一種機(jī)器人系統(tǒng)和計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)。

技術(shù)領(lǐng)域

本發(fā)明涉及機(jī)器學(xué)習(xí)領(lǐng)域，特別是涉及一種深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)構(gòu)建方法、裝置、機(jī)器人系統(tǒng)和存儲(chǔ)介質(zhì)。

背景技術(shù)

循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Networks，簡(jiǎn)寫(xiě)為RNNs)是神經(jīng)網(wǎng)絡(luò)家族中的一員，擅長(zhǎng)于解決序列化相關(guān)的問(wèn)題，與傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)模型不同的是，傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)模型是從輸入層到隱層再到輸出層，層與層之間是全連接的，而每層之間的節(jié)點(diǎn)是無(wú)連接的，即輸入節(jié)點(diǎn)與輸入節(jié)點(diǎn)之間是無(wú)連接的，隱層與隱層節(jié)點(diǎn)之間也是無(wú)連接。而循環(huán)神經(jīng)網(wǎng)絡(luò)是一個(gè)序列當(dāng)前的輸出與前面的輸出有關(guān)，即隱層的節(jié)點(diǎn)之間不再是無(wú)連接的而是有連接的。

傳統(tǒng)技術(shù)中，循環(huán)神經(jīng)網(wǎng)絡(luò)只能對(duì)簡(jiǎn)單的時(shí)序序列進(jìn)行處理，但是遇到更為復(fù)雜的時(shí)空關(guān)系及其他關(guān)系形成的序列，則無(wú)法用循環(huán)神經(jīng)網(wǎng)絡(luò)處理，因?yàn)檠h(huán)神經(jīng)網(wǎng)絡(luò)只能處理簡(jiǎn)單的序列，從而限制了神經(jīng)網(wǎng)絡(luò)及深度學(xué)習(xí)在面對(duì)復(fù)雜的序列的應(yīng)用。

發(fā)明內(nèi)容

基于此，有必要針對(duì)上述問(wèn)題，提供一種解決了復(fù)雜的時(shí)序序列無(wú)法在深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)中應(yīng)用的深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)構(gòu)建方法、裝置、機(jī)器人系統(tǒng)和存儲(chǔ)介質(zhì)。

一種深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)構(gòu)建方法，該方法包括：

獲取初始深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的每個(gè)輸入節(jié)點(diǎn)對(duì)應(yīng)的輸入變量之間的連接關(guān)系，得到有向圖；

確定各個(gè)輸入節(jié)點(diǎn)與待改造隱層的隱層節(jié)點(diǎn)之間的匹配關(guān)系；

根據(jù)有向圖的所述匹配關(guān)系確定待改造隱層的各個(gè)隱層節(jié)點(diǎn)之間的連接關(guān)系，得到目標(biāo)深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)。

在其中一個(gè)實(shí)施例中，獲取初始深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的每個(gè)輸入節(jié)點(diǎn)對(duì)應(yīng)的輸入變量之間的連接關(guān)系，得到有向圖，包括：獲取初始深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的輸入節(jié)點(diǎn)對(duì)應(yīng)的初始輸入變量；根據(jù)每個(gè)初始輸入變量查找與所述初始輸入變量連接有關(guān)系的目標(biāo)輸入變量；將目標(biāo)輸入變量與所述初始輸入變量進(jìn)行有向連接，得到有向圖。

在其中一個(gè)實(shí)施例中，將目標(biāo)輸入變量與所述初始輸入變量進(jìn)行有向連接，得到有向圖，包括：將目標(biāo)輸入變量作為始點(diǎn)，初始輸入變量作為終點(diǎn)，初始輸入變量與目標(biāo)輸入變量之間的有向連接為從始點(diǎn)指向終點(diǎn)，得到有向圖。

在其中一個(gè)實(shí)施例中，確定各個(gè)輸入節(jié)點(diǎn)與待改造隱層的隱層節(jié)點(diǎn)之間的匹配關(guān)系，包括：獲取待改造隱層；當(dāng)待改造隱層的隱層節(jié)點(diǎn)與輸入節(jié)點(diǎn)不是全連接時(shí)，將各個(gè)輸入節(jié)點(diǎn)與一一對(duì)應(yīng)的待改造隱層的隱層節(jié)點(diǎn)進(jìn)行匹配。

在其中一個(gè)實(shí)施例中，確定各個(gè)輸入節(jié)點(diǎn)與待改造隱層的隱層節(jié)點(diǎn)之間的匹配關(guān)系，還包括：當(dāng)待改造隱層的隱層節(jié)點(diǎn)與所述輸入節(jié)點(diǎn)是全連接時(shí)，統(tǒng)計(jì)輸入節(jié)點(diǎn)和所述待改造隱層的隱層節(jié)點(diǎn)的數(shù)量；根據(jù)輸入節(jié)點(diǎn)的數(shù)量與隱層節(jié)點(diǎn)的數(shù)量的比值取整，得到匹配數(shù)值；根據(jù)匹配數(shù)值將相應(yīng)數(shù)量的輸入節(jié)點(diǎn)與對(duì)應(yīng)的待改造隱層的隱層節(jié)點(diǎn)進(jìn)行匹配。

在其中一個(gè)實(shí)施例中，根據(jù)有向圖的所述匹配關(guān)系確定所述待改造隱層的各個(gè)隱層節(jié)點(diǎn)之間的連接關(guān)系，得到目標(biāo)深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)，包括：獲取有向圖中各個(gè)所述輸入節(jié)點(diǎn)之間的匹配關(guān)系；根據(jù)各個(gè)輸入節(jié)點(diǎn)與對(duì)應(yīng)的隱層節(jié)點(diǎn)之間的匹配關(guān)系，將各個(gè)隱層節(jié)點(diǎn)根據(jù)有向圖中的所述匹配關(guān)系進(jìn)行有向連接，得到目標(biāo)深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)。

一種深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)構(gòu)建裝置，該裝置包括：

有向圖生成模塊，用于獲取初始深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的每個(gè)輸入節(jié)點(diǎn)對(duì)應(yīng)的輸入變量之間的連接關(guān)系，得到有向圖；