[發明專利]基于神經網絡的指令交互方法、系統、設備及存儲介質

有效

• 申請號: 202010099596.0
• 申請日: 2020-02-18
• 公開（公告）號: CN111338816B
• 公開（公告）日: 2023-05-12
• 發明（設計）人: 李金鵬;黃炯凱;蔡權雄;牛昕宇
• 申請（專利權）人: 深圳鯤云信息科技有限公司
• 主分類號: G06F9/54
• 分類號: G06F9/54;G06N3/0464;G06N3/08
• 代理公司: 北京品源專利代理有限公司 11332
• 代理人: 孟金喆;潘登

本發明實施例公開了一種基于神經網絡的指令交互方法、系統、設備及存儲介質。該基于神經網絡的指令交互方法包括：請求守護進程模塊檢查是否存在空閑的硬件層；在存在所述空閑的硬件層的情況下，解析預設神經網絡模型得到結構數據和參數數據并預處理輸入計算圖；解析所述結構數據得到驅動層可識別的指令數據；調用第一指令使所述驅動層接收所述參數數據和指令數據，使所述驅動層根據所述指令數據和參數數據進行初始化，調用第二指令使所述驅動層接收所述輸入計算圖，調用第三指令通知所述驅動層根據所述指令數據驅動所述空閑的硬件層計算所述輸入計算圖和參數數據以得到輸出計算圖。本發明實施例實現了提高神經網絡多硬件的通信效率。

技術領域

本發明實施例涉及神經網絡技術領域，尤其涉及一種基于神經網絡的指令交互方法、系統、設備及存儲介質。

背景技術

隨著深度學習技術的逐漸成熟，基于神經網絡的行業落地應用越來越多，包括安全防衛、工業監控、自動駕駛等。

神經網絡由多個重復性計算層(也稱為算子)組成，其計算方式具有高并行度、高計算量的特點。相關技術中的神經網絡中，軟件層通過驅動層直接驅動硬件層，軟件層與驅動層直接進行通信。

但是使用上述方式難以支持多個硬件層之間的通信，當需要控制多個硬件層時，軟件層對硬件層的占用無法互相通知或通知比較復雜，使用消息的方式通信效率較低。

發明內容

本發明實施例提供一種基于神經網絡的指令交互方法、系統、設備及存儲介質，以實現提高神經網絡多硬件的通信效率。

本發明實施例提供了一種基于神經網絡的指令交互方法，該指令交互方法包括：

請求守護進程模塊檢查是否存在空閑的硬件層；

在存在所述空閑的硬件層的情況下，解析預設神經網絡模型得到結構數據和參數數據并預處理輸入計算圖；

解析所述結構數據得到驅動層可識別的指令數據；

調用第一指令使所述驅動層接收所述參數數據和指令數據，使所述驅動層根據所述指令數據和參數數據進行初始化；

調用第二指令使所述驅動層接收所述輸入計算圖，調用第三指令通知所述驅動層根據所述指令數據驅動所述空閑的硬件層計算所述輸入計算圖和參數數據以得到輸出計算圖。

一方面，本發明實施例還提供了一種基于神經網絡的指令交互系統，該指令交互系統包括：

守護進程模塊，用于檢查是否存在空閑的硬件層，在存在所述空閑的硬件層的情況下，使用所述空閑的硬件層，并標記所述空閑的硬件層已占用；

模型解析模塊，用于解析預設神經網絡模型得到結構數據和參數數據并預處理輸入計算圖；

指令生成模塊，用于解析所述結構數據得到驅動層可識別的指令數據；

指令調用模塊，用于調用第一指令使所述驅動層接收所述參數數據和指令數據，使所述驅動層根據所述指令數據和參數數據進行初始化，用于調用第二指令使所述驅動層接收所述輸入計算圖，還用于調用所述第三指令通知所述驅動層根據所述指令數據驅動所述空閑的硬件層計算所述輸入計算圖和參數數據以得到輸出計算圖。

另一方面，本發明實施例還提供了一種基于神經網絡的指令交互設備，該指令交互設備包括：

一個或多個處理器；

存儲裝置，用于存儲一個或多個程序，

當所述一個或多個程序被所述一個或多個處理器執行，使得所述一個或多個處理器實現如本發明任一實施例提供的指令交互方法。

又一方面，本發明實施例還提供了一種計算機可讀存儲介質，該計算機可讀存儲介質上存儲有計算機程序，該計算機程序被處理器執行時實現如本發明任一實施例提供的指令交互方法。