[發明專利]一種設備的調度方法

有效

• 申請號: 201910734672.8
• 申請日: 2019-08-09
• 公開（公告）號: CN110471767B
• 公開（公告）日: 2021-09-03
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 上海寒武紀信息科技有限公司
• 主分類號: G06F9/50
• 分類號: G06F9/50;G06N20/00
• 代理公司: 北京律譜知識產權代理事務所(普通合伙) 11457
• 代理人: 黃云鐸

本披露公開了一種設備的調度方法，包括：確定單元設備的設備路徑后，獲取單元設備的設備唯一標識符，將設備路徑和設備唯一標識符進行關聯生成映射表，再根據設備路徑查詢設備健康信息，將設備唯一標識符和設備健康信息上傳，當判定單元設備健康時，根據映射表確定單元設備的設備路徑，進而系統框架根據設備路徑調取單元設備。通過本披露中的技術方案，實現了在系統框架下，對物理機所掛載的多個單元設備進行調用和管理，提高了設備調用的靈活性。

技術領域

本申請涉及人工智能的技術領域，具體而言，涉及一種設備的調度方法。

背景技術

Kubernetes是一種開源的容器編排引擎，該容器編排引擎用于管理云平臺中多個主機上的容器化的應用，其目標是讓部署容器化的應用簡單并且高效。原生的該容器編排引擎僅支持對CPU和內存資源的管理和限制，但是在一些實際場景下，用戶可能需要該容器編排引擎對自定義設備進行調度和管理。但是，對于每一種自定義設備來說，其驅動和設備管理方式千變萬化，通過修改該容器編排引擎源代碼，以提供該容器編排引擎對自定義設備支持的方式，對用戶來講并不是一個好的解決方式。因此，該容器編排引擎提供了一種名為“device plugin”的設備插件機制，以實現該容器編排引擎對用戶自定義設備的調度和管理支持。

異構加速設備，如機器學習單元、現場可編程門陣列以及圖形加速設備等，是一種能夠提供面向神經網絡計算場景下的高性能計算加速設備，如機器學習單元(MachineLearning Unit，MLU)能夠支持大部分機器學習算法和深度學習算法的計算。

而現有技術中，僅利用這種設備插件機制(device plugin)并不能夠適用于該容器編排引擎(kubernetes)對云平臺中異構加速設備的調度和管理，影響了異構加速設備在云平臺中的運用。

發明內容

基于此，有必要針對上述技術問題，提供一種能夠支持機器學習單元設備在kubernetes容器編排引擎的調度方法，調度方法適用于kubernetes框架，kubernetes框架連接有多個物理機，物理機上運行有設備插件，任一個物理機連接有多個機器學習單元，該調度方法包括：

步驟1，設備插件根據與所述物理機相連的機器學習單元的設備數量，確定機器學習單元的設備路徑，并根據設備路徑，獲取機器學習單元的設備唯一標識符；

步驟2，設備插件將設備路徑和設備唯一標識符關聯，生成映射表，并根據設備路徑調取機器學習單元中的設備健康信息，將映射表中的設備唯一標識符和設備健康信息上傳至kubernetes框架；

步驟3，kubernetes框架判定設備健康信息正常時，設備插件根據映射表確定機器學習單元的設備路徑，kubernetes框架根據設備路徑調用機器學習單元。

本披露的有益效果是：

實現了在kubernetes系統框架下，支持kubernetes容器引擎對多個機器學習單元的調用和管理，提高了設備調用的靈活性。

附圖說明

本披露的上述和/或附加方面的優點在結合下面附圖對實施例的描述中將變得明顯和容易理解，其中：

圖1是根據本披露的一個實施例的注冊階段的示意流程圖；

圖2是根據本披露的一個實施例的健康檢查階段的示意流程圖；

圖3是根據本披露的一個實施例的分配階段的示意流程圖；

圖4是根據本披露的一個實施例的測試階段的示意流程圖。

具體實施方式

下面將結合本披露實施例中的附圖，對本披露實施例中的技術方案進行清楚、完整地描述，顯然，所描述的實施例是本披露一部分實施例，而不是全部的實施例。基于本披露中的實施例，本領域技術人員在沒有做出創造性勞動前提下所獲得的所有其他實施例，都屬于本披露保護的范圍。