[發明專利]自定義算子的計算方法及相關產品有效
| 申請號: | 201910247689.0 | 申請日: | 2019-03-28 |
| 公開(公告)號: | CN110009100B | 公開(公告)日: | 2021-01-05 |
| 發明(設計)人: | 不公告發明人 | 申請(專利權)人: | 安徽寒武紀信息科技有限公司 |
| 主分類號: | G06N3/063 | 分類號: | G06N3/063;G06N3/04 |
| 代理公司: | 廣州三環專利商標代理有限公司 44202 | 代理人: | 郝傳鑫;熊永強 |
| 地址: | 231283 安徽省合肥市高新區習友路3333*** | 國省代碼: | 安徽;34 |
| 權利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關鍵詞: | 自定義 算子 計算方法 相關 產品 | ||
本申請提供一種自定義算子的計算方法及相關產品,所述方法實現了自定義算子在多核處理器內運行,提高了計算速度,提高了用戶體驗度。
技術領域
本申請涉及神經網絡領域,尤其涉及一種自定義算子的計算方法及相關產品。
背景技術
人工神經網絡(Artificial Neural Network,即ANN),是20世紀80年代以來人工智能領域興起的研究熱點。它從信息處理角度對人腦神經元網絡進行抽象,建立某種簡單模型,按不同的連接方式組成不同的網絡。在工程與學術界也常直接簡稱為神經網絡或類神經網絡。神經網絡是一種運算模型,由大量的節點(或稱神經元)之間相互聯接構成。現有的神經網絡的運算基于算子來實現,現有的芯片提供商會定義一些常用的算子給用戶選用,為了跟用戶提醒個性化配置,神經網絡也支持用戶自定義算子,現有的神經網絡在計算用戶自定義算子時,需要探知(即解析)該自定義算子,影響用戶的體驗度。
發明內容
本申請實施例提供了一種自定義算子的計算方法及相關產品,可以在不探知用戶自定義算子的情況下實現自定義算子的計算,提高了用戶體驗度。
第一方面,提供一種自定義算子的計算方法,所述方法包括如下步驟:
多核處理器對神經網絡進行掃描獲取自定義算子,所述自定義算子包括:指令頭和指令段;
多核處理器獲取神經網絡的運行核數量n,將所述自定義算子對應的網絡層L復制n個,將n個網絡層L并行插入到所述神經網絡得到新神經網絡;
多核處理器運行所述新神經網絡。
第二方面,提供一種多核處理器,所述多核處理器包括:
掃描單元,用于對神經網絡進行掃描獲取自定義算子,所述自定義算子包括:指令頭和指令段;
獲取單元,用于神經網絡的運行核數量n;
構建單元,用于將所述自定義算子對應的網絡層L復制n個,將n個網絡層L并行插入到所述神經網絡得到新神經網絡;
運行單元,用于運行所述新神經網絡。
第三方面,提供一種計算芯片,所述計算芯片包括:如第二方面提供的多核處理器。
第四方面,提供一種電子設備,所述電子設備包括第三方面提供的芯片或第二方面提供的多核處理器。
第五方面,提供一種計算機可讀存儲介質,存儲用于電子數據交換的計算機程序,其中,所述計算機程序使得計算機執行第一方面提供的方法。
第六方面,提供一種計算機程序產品,其中,上述計算機程序產品包括存儲了計算機程序的非瞬時性計算機可讀存儲介質,上述計算機程序可操作來使計算機執行第一方面提供的方法。
附圖說明
圖1是一種神經網絡的多層結構示意圖。
圖2是一種自定義算子的計算方法的流程示意圖。
圖3是一種新神經網絡的多層結構示意圖。
圖4是一種多核處理器的結構框圖。
具體實施方式
為了使本技術領域的人員更好地理解本申請方案,下面將結合本申請實施例中的附圖,對本申請實施例中的技術方案進行清楚、完整地描述,顯然,所描述的實施例僅僅是本申請一部分實施例,而不是全部的實施例。基于本申請中的實施例,本領域普通技術人員在沒有作出創造性勞動前提下所獲得的所有其他實施例,都屬于本申請保護的范圍。
該專利技術資料僅供研究查看技術是否侵權等信息,商用須獲得專利權人授權。該專利全部權利屬于安徽寒武紀信息科技有限公司,未經安徽寒武紀信息科技有限公司許可,擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作,請聯系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/201910247689.0/2.html,轉載請聲明來源鉆瓜專利網。





