[發(fā)明專(zhuān)利]特征圖全連接卷積方法、裝置、可讀存儲(chǔ)介質(zhì)及電子設(shè)備

在審

• 申請(qǐng)?zhí)枺?/td>: 202011006954.5
• 申請(qǐng)日: 2020-09-22
• 公開(kāi)（公告）號(hào): CN112132274A
• 公開(kāi)（公告）日: 2020-12-25
• 發(fā)明（設(shè)計(jì)）人: 李德林;李建軍;王振江
• 申請(qǐng)（專(zhuān)利權(quán)）人: 地平線（上海）人工智能技術(shù)有限公司
• 主分類(lèi)號(hào): G06N3/063
• 分類(lèi)號(hào): G06N3/063;G06N3/04;G06F17/15
• 代理公司: 北京蘭亭信通知識(shí)產(chǎn)權(quán)代理有限公司 11667
• 代理人: 陳曉瑜

本公開(kāi)公開(kāi)了一種特征圖全連接卷積方法，包括：基于特征圖和第一卷積核，確定第一卷積核中與特征圖對(duì)應(yīng)的多個(gè)權(quán)重值；基于第一卷積核中的多個(gè)權(quán)重值以及多個(gè)權(quán)重值與特征圖的對(duì)應(yīng)關(guān)系，確定第二卷積核；基于預(yù)定尺寸和第二卷積核的尺寸，確定第二卷積核的多個(gè)待補(bǔ)充權(quán)重值以及所待補(bǔ)充權(quán)重值與第二卷積核對(duì)應(yīng)的位置；基于第二卷積核、待補(bǔ)充權(quán)重值以及待補(bǔ)充權(quán)重值的位置，確定預(yù)定尺寸的第三卷積核；采用第三卷積核對(duì)特征圖進(jìn)行全連接卷積計(jì)算。本公開(kāi)的技術(shù)方案能夠不對(duì)特征圖進(jìn)行調(diào)整和填充即可實(shí)現(xiàn)特征圖的全連接卷積，能夠節(jié)省對(duì)特征圖進(jìn)行調(diào)整和填充的計(jì)算資源，同時(shí)由于特征圖不需要填充，能夠保持較小的尺寸，節(jié)省特征圖所占的內(nèi)存空間。

技術(shù)領(lǐng)域

本公開(kāi)涉及神經(jīng)網(wǎng)絡(luò)計(jì)算技術(shù)領(lǐng)域，尤其涉及一種特征圖全連接卷積方法、裝置、可讀存儲(chǔ)介質(zhì)及電子設(shè)備。

背景技術(shù)

在神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu)例如CNN卷積神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu)的設(shè)計(jì)中，在網(wǎng)絡(luò)結(jié)構(gòu)的最后幾層，通常會(huì)出現(xiàn)一些全連接卷積。對(duì)于上述的設(shè)計(jì)，在應(yīng)用過(guò)程中，由于一專(zhuān)用的硬件平臺(tái)的指令集架構(gòu)不支持全連接，只能用普通卷積進(jìn)行模擬全連接計(jì)算，而普通卷積只支持奇數(shù)大小的卷積核，比如3x3、5x5、7x7等。當(dāng)網(wǎng)絡(luò)結(jié)構(gòu)需要對(duì)偶數(shù)大小的特征圖做全連接時(shí)，需要采用比特征圖尺寸大且大小尺寸為奇數(shù)的卷積核對(duì)特征圖做卷積，此時(shí)，由于硬件平臺(tái)的指令集架構(gòu)對(duì)特征圖填充的限制，需要對(duì)特征圖進(jìn)行特定行或列的填充，從而需要額外的指令對(duì)數(shù)據(jù)排列進(jìn)行調(diào)整，同時(shí)也會(huì)增加特征圖對(duì)內(nèi)存的空間占用。

發(fā)明內(nèi)容

為了解決上述技術(shù)問(wèn)題，提出了本公開(kāi)。本公開(kāi)的實(shí)施例提供了一種特征圖全連接卷積方法、裝置、可讀存儲(chǔ)介質(zhì)及電子設(shè)備，能夠?qū)⒌谌矸e核中的有效權(quán)重值設(shè)置在與特征圖對(duì)應(yīng)的位置，從而采用第三卷積核直接對(duì)特征圖進(jìn)行全連接卷積，減少計(jì)算量和內(nèi)存占用空間。

根據(jù)本公開(kāi)的一個(gè)方面，提供了一種特征圖全連接卷積方法，包括：

基于特征圖和第一卷積核，確定所述第一卷積核中與所述特征圖對(duì)應(yīng)的多個(gè)權(quán)重值；

基于所述第一卷積核中的所述多個(gè)權(quán)重值以及所述多個(gè)權(quán)重值與所述特征圖的對(duì)應(yīng)關(guān)系，確定第二卷積核；

基于預(yù)定尺寸和所述第二卷積核的尺寸，確定所述第二卷積核的多個(gè)待補(bǔ)充權(quán)重值以及所述所待補(bǔ)充權(quán)重值與所述第二卷積核對(duì)應(yīng)的位置；

基于所述第二卷積核、所述待補(bǔ)充權(quán)重值以及待補(bǔ)充權(quán)重值的位置，確定預(yù)定尺寸的第三卷積核；

采用所述第三卷積核對(duì)所述特征圖進(jìn)行全連接卷積計(jì)算。

根據(jù)本公開(kāi)的第二方面，提供了一種特征圖全連接卷積裝置，包括：

權(quán)重值確定模塊，用于基于特征圖和第一卷積核，確定所述第一卷積核中與所述特征圖對(duì)應(yīng)的多個(gè)權(quán)重值；

第二卷積核確定模塊，用于基于所述第一卷積核中的所述多個(gè)權(quán)重值以及所述多個(gè)權(quán)重值與所述特征圖的對(duì)應(yīng)關(guān)系，確定第二卷積核；

待補(bǔ)充權(quán)重值確定模塊，用于基于預(yù)定尺寸和所述第二卷積核的尺寸，確定所述第二卷積核的多個(gè)待補(bǔ)充權(quán)重值以及所述所待補(bǔ)充權(quán)重值的對(duì)應(yīng)位置；

第三卷積核確定模塊，用于基于所述第二卷積核、所述待補(bǔ)充權(quán)重值以及待補(bǔ)充權(quán)重值的位置，形成預(yù)定尺寸的第三卷積核；

計(jì)算模塊，用于采用所述第三卷積核對(duì)所述特征圖進(jìn)行全連接卷積計(jì)算。

根據(jù)本公開(kāi)的第三方面，提供了一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，所述存儲(chǔ)介質(zhì)存儲(chǔ)有計(jì)算機(jī)程序，所述計(jì)算機(jī)程序用于執(zhí)行上述任一所述的特征圖全連接卷積方法。

根據(jù)本公開(kāi)的第四方面，提供了一種電子設(shè)備，所述電子設(shè)備包括：

處理器；

用于存儲(chǔ)所述處理器可執(zhí)行指令的存儲(chǔ)器；