[發(fā)明專利]一種資源控制方法和裝置在審
| 申請?zhí)枺?/td> | 201811399681.8 | 申請日： | 2018-11-22 |
| 公開（公告）號： | CN109471733A | 公開（公告）日： | 2019-03-15 |
| 發(fā)明（設計）人： | 張浩 | 申請（專利權）人： | 鄭州云海信息技術有限公司 |
| 主分類號： | G06F9/50 | 分類號： | G06F9/50 |
| 代理公司： | 北京安信方達知識產(chǎn)權代理有限公司 11262 | 代理人： | 富愛民;解婷婷 |
| 地址： | 450018 河南省鄭州市*** | 國省代碼： | 河南;41 |
| 權利要求書： | 查看更多 | 說明書： | 查看更多 |
| 摘要： | |||
| 搜索關鍵詞： | 服務單元 方法和裝置 內(nèi)存信息 資源控制 伸縮 控制服務單元 圖形處理器 數(shù)量確定 預測服務 申請 學習 | ||
1.一種資源控制方法，其特征在于，所述方法包括：
獲取每個服務單元的圖形處理器GPU信息和內(nèi)存信息；
根據(jù)每個服務單元的GPU信息、內(nèi)存信息以及當前服務單元總數(shù)量確定伸縮策略，所述伸縮策略用于控制服務單元的數(shù)量。
2.如權利要求1所述的方法，其特征在于，所述根據(jù)每個服務單元的GPU信息、內(nèi)存信息以及當前服務單元總數(shù)量確定伸縮策略包括：
根據(jù)每個服務單元的GPU信息計算每個服務單元的GPU使用率；
根據(jù)每個服務單元的內(nèi)存信息計算每個服務單元的內(nèi)存使用率；
根據(jù)每個服務單元的GPU使用率、內(nèi)存使用率以及當前服務單元總數(shù)量確定伸縮策略。
3.如權利要求2所述的方法，其特征在于，根據(jù)每個服務單元的GPU使用率、內(nèi)存使用率以及當前服務單元總數(shù)量確定伸縮策略包括：
當滿足以下任一條件時，確定伸縮策略為增加服務單元：
當前所有服務單元的平均GPU使用率大于第一閾值，且當前服務單元總數(shù)量小于服務單元數(shù)量最大閾值；
當前所有服務單元的平均內(nèi)存使用率大于第二閾值，且當前服務單元總數(shù)量小于服務單元數(shù)量最大閾值。
4.如權利要求2所述的方法，其特征在于，所述根據(jù)每個服務單元的GPU使用率、內(nèi)存使用率以及當前服務單元總數(shù)量確定伸縮策略包括：
若當前所有服務單元的平均GPU使用率和平均內(nèi)存使用率均小于第三閾值，且當前服務單元總數(shù)量大于服務單元數(shù)量最小閾值，則確定伸縮策略為刪除服務單元和/或暫停服務單元。
5.如權利要求1至4任一所述的方法，其特征在于：
所述根據(jù)每個服務單元的GPU信息、內(nèi)存信息以及當前服務單元總數(shù)量確定伸縮策略之后，所述方法還包括：
執(zhí)行所述伸縮策略對應的操作。
6.一種資源控制裝置，包括：存儲器和處理器；其特征在于：
所述存儲器，用于保存用于資源控制的程序；
所述處理器，用于讀取執(zhí)行所述用于資源控制的程序，執(zhí)行如下操作：
獲取每個服務單元的圖形處理器GPU信息和內(nèi)存信息；
根據(jù)每個服務單元的GPU信息、內(nèi)存信息以及當前服務單元總數(shù)量確定伸縮策略，所述伸縮策略用于控制服務單元的數(shù)量。
7.如權利要求6所述的裝置，其特征在于，所述根據(jù)每個服務單元的GPU信息、內(nèi)存信息以及當前服務單元總數(shù)量確定伸縮策略包括：
根據(jù)每個服務單元的GPU信息計算每個服務單元的GPU使用率；
根據(jù)每個服務單元的內(nèi)存信息計算每個服務單元的內(nèi)存使用率；
根據(jù)每個服務單元的GPU使用率、內(nèi)存使用率以及當前服務單元總數(shù)量確定伸縮策略。
8.如權利要求7所述的裝置，其特征在于，根據(jù)每個服務單元的GPU使用率、內(nèi)存使用率以及當前服務單元總數(shù)量確定伸縮策略包括：
當滿足以下任一條件時，確定伸縮策略為增加服務單元：
當前所有服務單元的平均GPU使用率大于第一閾值，且當前服務單元總數(shù)量小于服務單元數(shù)量最大閾值；
當前所有服務單元的平均內(nèi)存使用率大于第二閾值，且當前服務單元總數(shù)量小于服務單元數(shù)量最大閾值。
9.如權利要求8所述的裝置，其特征在于，所述根據(jù)每個服務單元的GPU使用率、內(nèi)存使用率以及當前服務單元總數(shù)量確定伸縮策略包括：
若當前所有服務單元的平均GPU使用率和平均內(nèi)存使用率均小于第三閾值，且當前服務單元總數(shù)量大于服務單元數(shù)量最小閾值，則確定伸縮策略為刪除服務單元和/或暫停服務單元。
10.如權利要求6至9任一所述的裝置，其特征在于：
所述處理器，用于讀取執(zhí)行所述用于資源控制的程序，還執(zhí)行如下操作：
所述根據(jù)每個服務單元的GPU信息、內(nèi)存信息以及當前服務單元總數(shù)量確定伸縮策略之后，執(zhí)行所述伸縮策略對應的操作。
該專利技術資料僅供研究查看技術是否侵權等信息，商用須獲得專利權人授權。該專利全部權利屬于鄭州云海信息技術有限公司，未經(jīng)鄭州云海信息技術有限公司許可，擅自商用是侵權行為。如果您想購買此專利、獲得商業(yè)授權和技術合作，請聯(lián)系【客服】
本文鏈接：http://www.szxzyx.cn/pat/books/201811399681.8/1.html，轉載請聲明來源鉆瓜專利網(wǎng)。
