[發明專利]一種面向軟件定義衛星的神經網絡模型部署的方法以及裝置

在審

• 申請號: 202110329912.3
• 申請日: 2021-03-26
• 公開（公告）號: CN113190345A
• 公開（公告）日: 2021-07-30
• 發明（設計）人: 閆小盼;趙軍鎖;張玉鳳;夏玉立;耿世松;喬鵬
• 申請（專利權）人: 中國科學院軟件研究所
• 主分類號: G06F9/50
• 分類號: G06F9/50;G06N3/063
• 代理公司: 北京超凡宏宇專利代理事務所(特殊普通合伙) 11463
• 代理人: 衡滔

本申請實施例提供一種面向軟件定義衛星的神經網絡模型部署的方法以及裝置，所述方法包括：生成上注文件，其中，所述上注文件包括執行任務分配所需的部署需求表、編譯目標神經網絡模型得到的各節點編譯數據和所述目標神經網絡模型所需的基礎層數據，所述編譯數據包括所述各節點的指令序列文件、指令解析及運算控制程序，所述基礎層數據包括：神經網絡基礎層部件；將所述上注文件上注至衛星，以使所述衛星根據所述上注文件完成所述目標神經網絡模型的在軌部署運行。通過將本申請實施例的上注文件上注到軟件定義衛星，在軟件定義衛星的支持下，可實現任意神經網絡模型的在軌運行。

技術領域

本申請涉及神經網絡星上部署領域，具體而言本申請實施例涉及一種面向軟件定義衛星的神經網絡模型部署的方法以及裝置。

背景技術

近年來，深度學習相關算法發展迅速，在圖像處理、自然語言處理領域都取得了很好的效果，但深度學習網絡巨大的計算量阻礙了其在實際場景中的應用，因此近年來涌現了大量深度學習網絡硬件加速方面的研究。

常用的硬件加速平臺有GPU、CPU、FPGA等，在低功耗需求的嵌入式端應用方面，CPU和FPGA結合的異構硬件平臺得到了應用需求者們廣泛的青睞，尤其是集成了CPU和FPGA的片上SoC更是得到了廣泛的應用。在航天衛星領域，高性能的SoC逐漸開始得到應用，且深度學習網絡加速器在衛星平臺上部署近幾年也出現了大量的研究和嘗試，現有的深度學習網絡加速器在衛星平臺上的部署多是針對某一種網絡或某一類網絡，比如只針對圖像領域應用較廣泛的卷積神經網絡的加速，或者只是針對性地解決一類問題，比如基于遙感圖像的艦船、飛機的識別等，而深度學習網絡加速器一旦在衛星平臺上部署完成后便不能更改，若想支持新的應用需求、部署新的深度學習網絡只能重新發射一顆新的衛星。由于衛星研制和發射的高成本，此類加速器顯得效率低下，且嚴重影響衛星的智能性。

現有技術方案缺點至少包括：衛星上可支持加速的神經網絡模型的種類是確定的，衛星發射后不能通過上注等方式增加對新的神經網絡的支持，當有新的航天應用需求時，無法利用現有衛星實現，需要研究人員重新開發并重新發射衛星，造成了人力、財力和時間成本的極大浪費。

發明內容

本申請實施例的目的在于提供一種面向軟件定義衛星的神經網絡模型部署的方法以及裝置，通過將本申請實施例的上注文件上注到軟件定義衛星，在軟件定義衛星的支持下，可實現任意神經網絡模型的在軌運行。

第一方面，本申請的一些實施例提供一種面向軟件定義衛星的神經網絡模型部署的方法，應用于地面裝置，所述方法包括：生成上注文件，其中，所述上注文件包括執行任務分配所需的部署需求表、編譯目標神經網絡模型得到的各節點編譯數據和所述目標神經網絡模型所需的基礎層數據，所述編譯數據包括各節點指令序列文件、各節點指令解析及運算控制程序，所述基礎層數據包括：神經網絡基礎層部件；將所述上注文件上注至衛星，以使所述衛星根據所述上注文件完成所述目標神經網絡模型的在軌部署運行。

本申請的一些實施例通過在地面生成用于指導衛星對神經網絡模型的計算任務進行分配的部署需求表，生成指導各節點進行神經網絡部署的并執行計算的指令數據，并生成神經網絡模型所需的相關的基礎層部模塊數據，之后將這些數據上注至衛星以實現新的神經網絡的在軌運行。借助本申請的實施例提供的部署方法可以不斷的滿足新的神經網絡模型在軟件定義衛星上的部署需求。

在一些實施例中，所述上注文件還包括定點型參數文件，其中，所述定點型參數文件至少是通過對所述目標神經網絡模型的權重系數根據量化位寬進行量化壓縮得到的。

本申請的一些實施例將32位浮點數轉換為8位或16位(即量化位寬為8或者16)的定點參數進行存儲可有效降低存儲需求，使更多的權值數據和神經網絡模型計算的中間結果可以放在片上存儲，降低節點對片外DDR存儲的需求及對帶寬的需求。