[發(fā)明專利]神經(jīng)網(wǎng)絡(luò)的生成、圖像處理、智能行駛控制方法及裝置

在審

• 申請?zhí)枺?/td>: 202010075144.9
• 申請日: 2020-01-22
• 公開（公告）號: CN111291866A
• 公開（公告）日: 2020-06-16
• 發(fā)明（設(shè)計(jì)）人: 俞海寶;韓琪;李建波;程光亮
• 申請（專利權(quán)）人: 上海商湯臨港智能科技有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08;G06K9/62
• 代理公司: 北京中知法苑知識產(chǎn)權(quán)代理有限公司 11226
• 代理人: 李明

1.一種神經(jīng)網(wǎng)絡(luò)的生成方法，其特征在于，該方法包括：

生成待壓縮的超神經(jīng)網(wǎng)絡(luò)；所述超神經(jīng)網(wǎng)絡(luò)包括多層網(wǎng)絡(luò)中每層網(wǎng)絡(luò)分別對應(yīng)的多個子網(wǎng)絡(luò)；其中，同一層網(wǎng)絡(luò)所對應(yīng)的不同子網(wǎng)絡(luò)的網(wǎng)絡(luò)內(nèi)參數(shù)的比特位數(shù)不同；

按照以下方式對所述超神經(jīng)網(wǎng)絡(luò)進(jìn)行多輪訓(xùn)練中的每一輪訓(xùn)練，并基于多輪訓(xùn)練后的所述超神經(jīng)網(wǎng)絡(luò)，生成壓縮后的神經(jīng)網(wǎng)絡(luò)：

將獲取的樣本圖像輸入至當(dāng)前超神經(jīng)網(wǎng)絡(luò)進(jìn)行處理，得到所述樣本圖像對應(yīng)的預(yù)測結(jié)果；

基于所述樣本圖像的預(yù)測結(jié)果、標(biāo)注結(jié)果、表征當(dāng)前超神經(jīng)網(wǎng)絡(luò)中各層網(wǎng)絡(luò)中每個子網(wǎng)絡(luò)的重要性程度的指標(biāo)值、當(dāng)前超神經(jīng)網(wǎng)絡(luò)中各層網(wǎng)絡(luò)所對應(yīng)的不同子網(wǎng)絡(luò)的網(wǎng)絡(luò)內(nèi)參數(shù)、以及計(jì)算代價(jià)約束條件，生成損失信息，并基于所述損失信息，調(diào)整當(dāng)前超神經(jīng)網(wǎng)絡(luò)中的所述不同子網(wǎng)絡(luò)的網(wǎng)絡(luò)內(nèi)參數(shù)、以及表征所述每個子網(wǎng)絡(luò)的重要性程度的指標(biāo)值。

2.根據(jù)權(quán)利要求1所述的神經(jīng)網(wǎng)絡(luò)的生成方法，其特征在于，所述生成待壓縮的超神經(jīng)網(wǎng)絡(luò)，包括：

針對初始神經(jīng)網(wǎng)絡(luò)中多層網(wǎng)絡(luò)中的每層網(wǎng)絡(luò)，對該層網(wǎng)絡(luò)中的網(wǎng)絡(luò)內(nèi)參數(shù)進(jìn)行多次量化，得到多次量化中每次量化后分別對應(yīng)的網(wǎng)絡(luò)內(nèi)參數(shù)；

基于多次量化中每次量化后分別對應(yīng)的網(wǎng)絡(luò)內(nèi)參數(shù)，以及該層網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)，得到與該層網(wǎng)絡(luò)對應(yīng)的多個子網(wǎng)絡(luò)；

基于所述多層網(wǎng)絡(luò)中每層網(wǎng)絡(luò)分別對應(yīng)的多個子網(wǎng)絡(luò)，構(gòu)成所述待壓縮的超神經(jīng)網(wǎng)絡(luò)。

3.根據(jù)權(quán)利要求2所述的神經(jīng)網(wǎng)絡(luò)的生成方法，其特征在于，所述基于所述多層網(wǎng)絡(luò)中每層網(wǎng)絡(luò)分別對應(yīng)的多個子網(wǎng)絡(luò)，構(gòu)成所述待壓縮的超神經(jīng)網(wǎng)絡(luò)，包括；

對每層網(wǎng)絡(luò)層對應(yīng)的多個子網(wǎng)絡(luò)分別對應(yīng)的重要性程度的指標(biāo)值進(jìn)行初始化，并基于初始化結(jié)果、以及所述多層網(wǎng)絡(luò)中每層網(wǎng)絡(luò)分別對應(yīng)的多個子網(wǎng)絡(luò)，構(gòu)成所述待壓縮的超神經(jīng)網(wǎng)絡(luò)。

4.根據(jù)權(quán)利要求1-3任一項(xiàng)所述的神經(jīng)網(wǎng)絡(luò)的生成方法，其特征在于，所述調(diào)整當(dāng)前超神經(jīng)網(wǎng)絡(luò)中的所述不同子網(wǎng)絡(luò)的網(wǎng)絡(luò)內(nèi)參數(shù)、以及表征所述每個子網(wǎng)絡(luò)的重要性程度的指標(biāo)值，包括：

基于所述樣本圖像的預(yù)測結(jié)果、標(biāo)注結(jié)果、表征當(dāng)前超神經(jīng)網(wǎng)絡(luò)中各層網(wǎng)絡(luò)中每個子網(wǎng)絡(luò)的重要性程度的指標(biāo)值、以及當(dāng)前超神經(jīng)網(wǎng)絡(luò)中各層網(wǎng)絡(luò)所對應(yīng)的不同子網(wǎng)絡(luò)的網(wǎng)絡(luò)內(nèi)參數(shù)，生成第一損失信息，并基于所述第一損失信息，調(diào)整當(dāng)前超神經(jīng)網(wǎng)絡(luò)中的所述不同子網(wǎng)絡(luò)的網(wǎng)絡(luò)內(nèi)參數(shù)；

基于所述樣本圖像的預(yù)測結(jié)果、標(biāo)注結(jié)果、表征當(dāng)前超神經(jīng)網(wǎng)絡(luò)中各層網(wǎng)絡(luò)中每個子網(wǎng)絡(luò)的重要性程度的指標(biāo)值、經(jīng)過調(diào)整的各層網(wǎng)絡(luò)所對應(yīng)的不同子網(wǎng)絡(luò)的網(wǎng)絡(luò)內(nèi)參數(shù)、以及計(jì)算代價(jià)約束條件，生成第二損失信息，并基于所述第二損失信息，調(diào)整當(dāng)前超神經(jīng)網(wǎng)絡(luò)表征所述每個子網(wǎng)絡(luò)的重要性程度的指標(biāo)值。

5.根據(jù)權(quán)利要求1-4任一項(xiàng)所述的神經(jīng)網(wǎng)絡(luò)的生成方法，其特征在于，所述計(jì)算代價(jià)約束條件包括下述一種或者多種：最大迭代的輪數(shù)、超神經(jīng)網(wǎng)絡(luò)中各層網(wǎng)絡(luò)中網(wǎng)絡(luò)內(nèi)參數(shù)的平均比特位數(shù)最大閾值、以及預(yù)先設(shè)置的障礙懲罰系數(shù)。

6.根據(jù)權(quán)利要求1-5任一項(xiàng)上所述的神經(jīng)網(wǎng)絡(luò)的生成方法，其特征在于，基于多輪訓(xùn)練后的所述超神經(jīng)網(wǎng)絡(luò)，生成所述壓縮后的神經(jīng)網(wǎng)絡(luò)，包括：

基于多輪訓(xùn)練后的所述超神經(jīng)網(wǎng)絡(luò)中，各層網(wǎng)絡(luò)中每個子網(wǎng)絡(luò)的重要性程度的指標(biāo)值，確定多輪訓(xùn)練后的所述超神經(jīng)網(wǎng)絡(luò)中各層網(wǎng)絡(luò)中每個子網(wǎng)絡(luò)的權(quán)重；

基于多輪訓(xùn)練后的所述超神經(jīng)網(wǎng)絡(luò)中各層網(wǎng)絡(luò)中每個子網(wǎng)絡(luò)的權(quán)重，從各層網(wǎng)絡(luò)分別對應(yīng)的多個子網(wǎng)絡(luò)中，確定與各層網(wǎng)絡(luò)分別對應(yīng)的目標(biāo)子網(wǎng)絡(luò)；

基于各層網(wǎng)絡(luò)分別對應(yīng)的目標(biāo)子網(wǎng)絡(luò)，構(gòu)成所述壓縮后的神經(jīng)網(wǎng)絡(luò)。

7.一種圖像處理方法，其特征在于，包括：

獲取待處理圖像；

利用基于權(quán)利要求1-6任一方法生成的神經(jīng)網(wǎng)絡(luò)處理所述待處理圖像，得到所述待處理圖像的處理結(jié)果。

8.一種智能行駛控制方法，其特征在于，包括：

獲取道路圖像；

利用基于權(quán)利要求1-6任一方法生成的神經(jīng)網(wǎng)絡(luò)處理所述道路圖像，得到所述道路圖像的處理結(jié)果；

根據(jù)所述處理結(jié)果，對獲取所述道路圖像的智能行駛設(shè)備進(jìn)行控制。