[發明專利]調度方法及相關裝置

在審

• 申請號: 202010118354.1
• 申請日: 2017-12-28
• 公開（公告）號: CN111338776A
• 公開（公告）日: 2020-06-26
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 中科寒武紀科技股份有限公司
• 主分類號: G06F9/48
• 分類號: G06F9/48;G06F9/50;G06N3/063;G06N3/04;G06N3/08
• 代理公司: 廣州三環專利商標代理有限公司 44202
• 代理人: 熊永強

本申請實施例公開了一種調度方法及相關裝置，其中方法基于包含多個計算裝置的服務器，包括：接收M個運算請求；根據所述M個運算請求中每一運算請求的屬性信息從所述多個計算裝置中選取至少一個目標計算裝置，并確定所述至少一個目標計算裝置中每一目標計算裝置對應的運算指令；根據所述至少一個目標計算裝置中每一目標計算裝置對應的運算指令對所述M個運算請求對應的運算數據進行計算得到M個最終運算結果；將所述M個最終運算結果中每一最終運算結果發送至對應的電子設備。本申請實施例，可選取服務器中的計算裝置執行運算請求，提高了服務器的運行效率。

技術領域

本申請涉及計算機技術領域，具體涉及一種調度方法及相關裝置。

背景技術

神經網絡是目前許多人工智能應用的基礎，隨著神經網絡的應用范圍的進一步擴大，采用服務器或云計算服務對各種各樣的神經網絡模型進行存儲，并針對用戶提交的運算請求進行運算。面對眾多的神經網絡模型和大批量的請求，如何提高服務器的運算效率是本領域技術人員待解決的技術問題。

發明內容

本申請實施例提出了一種調度方法及相關裝置，可選取服務器中的計算裝置執行運算請求，提高了服務器的運行效率。

第一方面，本申請實施例提供了一種調度方法，基于多個計算裝置的服務器，所述方法包括：

接收M個運算請求；

根據所述M個運算請求中每一運算請求的屬性信息從所述多個計算裝置中選取至少一個目標計算裝置，并確定所述至少一個目標計算裝置中每一目標計算裝置對應的運算指令，所述屬性信息包括運算任務和目標神經網絡模型；

根據所述至少一個目標計算裝置中每一目標計算裝置對應的運算指令對所述M個運算請求對應的運算數據進行計算，得到M個最終運算結果；

將所述M個最終運算結果中每一運算結果發送至對應的電子設備。

第二方面，本申請實施例提供了一種服務器，所述服務器包括多個計算裝置，其中：

接收單元，用于接收M個運算請求；

調度單元，用于根據所述M個運算請求中每一運算請求的屬性信息從所述多個計算裝置中選取至少一個目標計算裝置，并確定所述至少一個目標計算裝置中每一目標計算裝置對應的運算指令，所述屬性信息包括運算任務和目標神經網絡模型；

運算單元，用于根據所述至少一個目標計算裝置中每一目標計算裝置對應的運算指令對所述M個運算請求對應的運算數據進行計算，得到M個最終運算結果；

發送單元，用于將所述M個最終運算結果中每一最終運算結果發送至對應的電子設備。

第三方面，本申請實施例提供了另一種服務器，包括處理器、存儲器、通信接口以及一個或多個程序，其中，所述一個或多個程序被存儲在所述存儲器中，并且被配置由所述處理器執行，所述程序包括用于如第一方面中所描述的部分或全部步驟的指令。

第四方面，本申請實施例提供了一種計算機可讀存儲介質，所述計算機存儲介質存儲有計算機程序，所述計算機程序包括程序指令，所述程序指令當被處理器執行時使所述處理器執行上述第一方面的方法。

采用了上述的調度方法及相關裝置之后，基于接收到的M個運算請求的屬性信息從服務器中包括的多個計算裝置中選取執行M個運算請求的目標計算裝置，并確定目標計算裝置對應的運算指令，目標計算裝置根據其對應的運算指令完成運算請求，并將每一運算請求對應的最終運算結果發送至對應的電子設備，即根據運算請求統一分配計算資源，以使服務器中的多個計算裝置進行有效地協作，從而提高服務器的運算效率。

附圖說明