[發(fā)明專利]多神經(jīng)網(wǎng)絡(luò)模型載入方法、裝置、電子設(shè)備及存儲介質(zhì)在審
| 申請?zhí)枺?/td> | 202110036325.5 | 申請日： | 2021-01-12 |
| 公開（公告）號： | CN114764609A | 公開（公告）日： | 2022-07-19 |
| 發(fā)明（設(shè)計）人： | 孫國欽;郭錦斌 | 申請（專利權(quán)）人： | 富泰華工業(yè)（深圳）有限公司;鴻海精密工業(yè)股份有限公司 |
| 主分類號： | G06N3/04 | 分類號： | G06N3/04;G06N3/063;G06N3/08;H03M7/30 |
| 代理公司： | 深圳市賽恩倍吉知識產(chǎn)權(quán)代理有限公司 44334 | 代理人： | 常云敏 |
| 地址： | 518109 廣東省深圳市龍華新區(qū)觀瀾街道大三*** | 國省代碼： | 廣東;44 |
| 權(quán)利要求書： | 查看更多 | 說明書： | 查看更多 |
| 摘要： | |||
| 搜索關(guān)鍵詞： | 神經(jīng)網(wǎng)絡(luò) 模型 載入 方法 裝置 電子設(shè)備 存儲 介質(zhì) | ||
1.一種多神經(jīng)網(wǎng)絡(luò)模型載入方法，其特征在于，所述方法包括：
編譯至少兩個神經(jīng)網(wǎng)絡(luò)模型，并生成與所述至少兩個神經(jīng)網(wǎng)絡(luò)模型對應(yīng)的至少兩個二進(jìn)制模型文件；
將所述至少兩個二進(jìn)制模型文件中的一個二進(jìn)制模型文件作為基礎(chǔ)模型，使用預(yù)設(shè)的差異計算方法計算并記錄所述至少兩個二進(jìn)制模型文件中除所述基礎(chǔ)模型外的每個二進(jìn)制模型文件與所述基礎(chǔ)模型之間的差異，生成差異記錄文件；
使用預(yù)設(shè)的壓縮方法壓縮所述基礎(chǔ)模型與所述差異記錄文件，并生成輸入文件；
在神經(jīng)網(wǎng)絡(luò)加速器中輸入所述輸入文件，解壓縮所述輸入文件得到所述基礎(chǔ)模型與所述差異記錄文件，并在神經(jīng)網(wǎng)絡(luò)加速器中載入所述基礎(chǔ)模型與所述差異記錄文件。
2.如權(quán)利要求1所述的多神經(jīng)網(wǎng)絡(luò)模型載入方法，其特征在于，所述方法還包括：
根據(jù)所述差異記錄文件修改所述基礎(chǔ)模型的參數(shù)，以在神經(jīng)網(wǎng)絡(luò)加速器中將當(dāng)前的基礎(chǔ)模型切換至與所述修改的參數(shù)對應(yīng)的神經(jīng)網(wǎng)絡(luò)模型。
3.如權(quán)利要求1所述的多神經(jīng)網(wǎng)絡(luò)模型載入方法，其特征在于，所述至少兩個二進(jìn)制模型文件符合神經(jīng)網(wǎng)絡(luò)加速器格式要求。
4.如權(quán)利要求1所述的多神經(jīng)網(wǎng)絡(luò)模型載入方法，其特征在于，所述使用預(yù)設(shè)的差異計算方法計算并記錄所述至少兩個二進(jìn)制模型文件中除所述基礎(chǔ)模型外的每個二進(jìn)制模型文件與所述基礎(chǔ)模型之間的差異包括：
以二進(jìn)制格式比較所述至少兩個二進(jìn)制模型文件中除所述基礎(chǔ)模型外的每個所述二進(jìn)制文件與所述基礎(chǔ)模型，記錄每個所述神經(jīng)網(wǎng)絡(luò)模型的隱藏層連接和權(quán)重與所述基礎(chǔ)模型的隱藏層連接和權(quán)重之間的差異。
5.如權(quán)利要求1所述的多神經(jīng)網(wǎng)絡(luò)模型載入方法，其特征在于，所述使用預(yù)設(shè)的壓縮方法壓縮所述基礎(chǔ)模型與所述差異記錄文件，并生成輸入文件包括：
使用無損編碼壓縮方法壓縮所述基礎(chǔ)模型與所述差異記錄文件，并生成輸入文件。
6.如權(quán)利要求5所述的多神經(jīng)網(wǎng)絡(luò)模型載入方法，其特征在于，所述解壓縮所述輸入文件得到所述基礎(chǔ)模型與所述差異記錄文件包括：
使用與所述無損編碼壓縮方法對應(yīng)的解碼方法解壓縮所述輸入文件得到所述基礎(chǔ)模型與所述差異記錄文件。
7.如權(quán)利要求1所述的多神經(jīng)網(wǎng)絡(luò)模型載入方法，其特征在于，所述根據(jù)差異記錄文件修改所述基礎(chǔ)模型的參數(shù)包括：
根據(jù)所述差異記錄文件修改所述基礎(chǔ)模型的權(quán)重和/或隱藏層連接。
8.一種多神經(jīng)網(wǎng)絡(luò)模型載入裝置，其特征在于，包括：
編譯模塊，用于編譯至少兩個神經(jīng)網(wǎng)絡(luò)模型，并生成與所述至少兩個神經(jīng)網(wǎng)絡(luò)模型對應(yīng)的至少兩個二進(jìn)制模型文件；
差異記錄模塊，用于將所述至少兩個二進(jìn)制模型文件中的一個二進(jìn)制模型文件作為基礎(chǔ)模型，使用預(yù)設(shè)的差異計算方法計算并記錄所述至少兩個二進(jìn)制模型文件中除所述基礎(chǔ)模型外的每個二進(jìn)制模型文件與所述基礎(chǔ)模型之間的差異，生成差異記錄文件；
壓縮模塊，用于使用預(yù)設(shè)的壓縮方法壓縮所述基礎(chǔ)模型與所述差異記錄文件，并生成輸入文件；
載入模塊，用于在神經(jīng)網(wǎng)絡(luò)加速器中輸入所述輸入文件，解壓縮所述輸入文件得到所述基礎(chǔ)模型與所述差異記錄文件，并在神經(jīng)網(wǎng)絡(luò)加速器中載入所述基礎(chǔ)模型與所述差異記錄文件。
9.一種電子設(shè)備，其特征在于，所述電子設(shè)備包括：
存儲器，存儲至少一個指令；及
處理器，執(zhí)行所述存儲器中存儲的指令以實現(xiàn)如權(quán)利要求1至7中任一項所述的多神經(jīng)網(wǎng)絡(luò)模型載入方法。
10.一種計算機(jī)存儲介質(zhì)，其上存儲有計算機(jī)程序，其特征在于：所述計算機(jī)程序被處理器執(zhí)行時實現(xiàn)如權(quán)利要求1至7中任一項所述的多神經(jīng)網(wǎng)絡(luò)模型載入方法。
該專利技術(shù)資料僅供研究查看技術(shù)是否侵權(quán)等信息，商用須獲得專利權(quán)人授權(quán)。該專利全部權(quán)利屬于富泰華工業(yè)（深圳）有限公司;鴻海精密工業(yè)股份有限公司，未經(jīng)富泰華工業(yè)（深圳）有限公司;鴻海精密工業(yè)股份有限公司許可，擅自商用是侵權(quán)行為。如果您想購買此專利、獲得商業(yè)授權(quán)和技術(shù)合作，請聯(lián)系【客服】
本文鏈接：http://www.szxzyx.cn/pat/books/202110036325.5/1.html，轉(zhuǎn)載請聲明來源鉆瓜專利網(wǎng)。
- 硬件神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)換方法、計算裝置、軟硬件協(xié)作系統(tǒng)
- 生成較大神經(jīng)網(wǎng)絡(luò)
- 神經(jīng)網(wǎng)絡(luò)的生成方法、生成裝置和電子設(shè)備
- 一種舌診方法、裝置、計算設(shè)備及計算機(jī)存儲介質(zhì)
- 學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)
- 脈沖神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)換方法及相關(guān)轉(zhuǎn)換芯片
- 圖像處理方法、裝置、可讀存儲介質(zhì)和計算機(jī)設(shè)備
- 一種適應(yīng)目標(biāo)數(shù)據(jù)集的網(wǎng)絡(luò)模型微調(diào)方法、系統(tǒng)、終端和存儲介質(zhì)
- 用于重構(gòu)人工神經(jīng)網(wǎng)絡(luò)的處理器及其操作方法、電氣設(shè)備
- 一種圖像神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的優(yōu)化方法及裝置
