[發(fā)明專利]卷積神經(jīng)網(wǎng)絡(luò)數(shù)據(jù)的預(yù)處理方法和裝置

有效

• 申請(qǐng)?zhí)枺?/td>: 201810962564.1
• 申請(qǐng)日: 2018-08-22
• 公開(kāi)（公告）號(hào): CN109102070B
• 公開(kāi)（公告）日: 2020-11-24
• 發(fā)明（設(shè)計(jì)）人: 耿益鋒;羅恒
• 申請(qǐng)（專利權(quán)）人: 地平線(上海)人工智能技術(shù)有限公司
• 主分類號(hào): G06N3/04
• 分類號(hào): G06N3/04;G06N3/063
• 代理公司: 北京市正見(jiàn)永申律師事務(wù)所 11497
• 代理人: 黃小臨;馮玉清

公開(kāi)了一種卷積神經(jīng)網(wǎng)絡(luò)數(shù)據(jù)的預(yù)處理方法和裝置，其中，預(yù)處理方法包括：確定卷積神經(jīng)網(wǎng)絡(luò)的平均池化層；確定平均池化層的運(yùn)算數(shù)據(jù)；根據(jù)運(yùn)算數(shù)據(jù)確定至少一個(gè)卷積核；以及將平均池化層轉(zhuǎn)換為至少一個(gè)卷積層。通過(guò)該預(yù)處理方法和裝置，能夠?qū)⒕矸e神經(jīng)網(wǎng)絡(luò)中的平均池化層轉(zhuǎn)換為至少一個(gè)卷積層，從而省去平均池化運(yùn)算，進(jìn)而能夠在卷積神經(jīng)網(wǎng)絡(luò)加速器或處理芯片中省略用于平均池化操作的池化電路以及相關(guān)控制邏輯的設(shè)計(jì)和設(shè)置，并借助于卷積神經(jīng)網(wǎng)絡(luò)加速器或處理芯片中的卷積引擎高效率地實(shí)現(xiàn)平均池化運(yùn)算。

技術(shù)領(lǐng)域

本公開(kāi)總體上涉及卷積神經(jīng)網(wǎng)絡(luò)的技術(shù)領(lǐng)域，并且具體地涉及卷積神經(jīng)網(wǎng)絡(luò)數(shù)據(jù)的預(yù)處理方法和裝置。

背景技術(shù)

平均池化或均值池化是卷積神經(jīng)網(wǎng)絡(luò)中的一種常見(jiàn)操作，即對(duì)局部接受域中的所有的值求均值。

通常，在卷積神經(jīng)網(wǎng)絡(luò)加速器或處理芯片中，可以設(shè)置專用的池化電路(也稱為池化模塊或池化單元)來(lái)處理諸如平均池化等池化操作。

由于芯片空間、硬件成本、設(shè)計(jì)復(fù)雜度等諸多方面的考慮和限制，用于執(zhí)行平均池化操作的池化電路往往被設(shè)計(jì)為要求局部接受域或池化核具有規(guī)定大小(而非任意大小)，例如7×7、5×5、3×3等。如果局部接受域或池化核的大小不滿足要求，則需要進(jìn)行額外的填充處理，甚至根本無(wú)法處理。

另外，池化電路也可以便借助卷積引擎來(lái)實(shí)現(xiàn)例如平均池化操作過(guò)程中的步進(jìn)控制等。然而，這樣的方式增加了布線成本和時(shí)序控制的復(fù)雜度。

期望能夠有利于通過(guò)硬件高效率且低成本地實(shí)現(xiàn)平均池化操作。

發(fā)明內(nèi)容

一方面，本公開(kāi)提供了一種卷積神經(jīng)網(wǎng)絡(luò)數(shù)據(jù)的預(yù)處理方法，該方法可以包括：確定卷積神經(jīng)網(wǎng)絡(luò)的平均池化層；確定平均池化層的運(yùn)算數(shù)據(jù)，包括平均池化層的輸入張量的通道數(shù)量、平均池化層的池化核的形狀、池化核單次可覆蓋的體素的數(shù)量以及池化核的步長(zhǎng)等；根據(jù)運(yùn)算數(shù)據(jù)確定至少一個(gè)卷積核；以及將平均池化層轉(zhuǎn)換為使用所確定的至少一個(gè)卷積核的至少一個(gè)卷積層。

另一方面，本公開(kāi)還提供了一種卷積神經(jīng)網(wǎng)絡(luò)數(shù)據(jù)的預(yù)處理裝置，該裝置可以包括存儲(chǔ)器和處理器。處理器可以被配置為在啟動(dòng)時(shí)執(zhí)行至少用于執(zhí)行上述方法的程序指令。

另一方面，本公開(kāi)還提供了一種計(jì)算機(jī)可讀的非臨時(shí)性存儲(chǔ)介質(zhì)，在其上存儲(chǔ)有程序指令，該程序指令在被執(zhí)行時(shí)可以執(zhí)行上述方法。

通過(guò)根據(jù)本公開(kāi)的實(shí)施例的卷積神經(jīng)網(wǎng)絡(luò)數(shù)據(jù)的預(yù)處理方法和裝置，能夠?qū)⒕矸e神經(jīng)網(wǎng)絡(luò)中的平均池化層轉(zhuǎn)換為至少一個(gè)卷積層，從而省去平均池化運(yùn)算，進(jìn)而能夠在卷積神經(jīng)網(wǎng)絡(luò)加速器或處理芯片中省略用于平均池化操作的池化電路和/或相關(guān)控制邏輯的設(shè)計(jì)和/或設(shè)置，并借助于卷積神經(jīng)網(wǎng)絡(luò)加速器或處理芯片中的卷積引擎高效率地實(shí)現(xiàn)平均池化運(yùn)算。

附圖說(shuō)明

圖1示出根據(jù)本公開(kāi)的實(shí)施例的卷積加速器的示例。

圖2示出根據(jù)本公開(kāi)的實(shí)施例的預(yù)處理方法的流程圖。

圖3示出根據(jù)本公開(kāi)的實(shí)施例的預(yù)處理結(jié)果及后續(xù)處理的示例。

圖4示出根據(jù)本公開(kāi)的實(shí)施例的預(yù)處理結(jié)果及后續(xù)處理的示例。

圖5示出根據(jù)本公開(kāi)的實(shí)施例的預(yù)處理結(jié)果及后續(xù)處理的示例。

圖6示出根據(jù)本公開(kāi)的實(shí)施例的預(yù)處理結(jié)果及后續(xù)處理的示例。

圖7示出根據(jù)本公開(kāi)的實(shí)施例的預(yù)處理結(jié)果及后續(xù)處理的示例。

圖8示出根據(jù)本公開(kāi)的實(shí)施例的預(yù)處理器的示例。

具體實(shí)施方式