[發(fā)明專利]容器池管理

在審

• 申請(qǐng)?zhí)枺?/td>: 202211269793.8
• 申請(qǐng)日: 2022-10-17
• 公開（公告）號(hào): CN116010020A
• 公開（公告）日: 2023-04-25
• 發(fā)明（設(shè)計(jì)）人: L·阿羅諾維什;J·佩恩
• 申請(qǐng)（專利權(quán)）人: 國際商業(yè)機(jī)器公司
• 主分類號(hào): G06F9/455
• 分類號(hào): G06F9/455;G06F9/50
• 代理公司: 北京市中咨律師事務(wù)所 11247
• 代理人: 于靜;劉薇

本發(fā)明涉及容器池管理。用于用作業(yè)處理池來管理作業(yè)的計(jì)算機(jī)實(shí)現(xiàn)的方法。計(jì)算機(jī)系統(tǒng)接收具有某作業(yè)類型的作業(yè)。計(jì)算機(jī)系統(tǒng)識(shí)別所述作業(yè)處理池中用于運(yùn)行該作業(yè)類型的作業(yè)的作業(yè)處理池，其中，該個(gè)作業(yè)處理池包括用于運(yùn)行該作業(yè)類型作業(yè)的作業(yè)處理器，并且其中，所述作業(yè)處理池中的另一個(gè)作業(yè)處理池包含用于運(yùn)行不同作業(yè)類型的作業(yè)的其他作業(yè)處理器。計(jì)算機(jī)系統(tǒng)用該個(gè)作業(yè)處理池中的該作業(yè)類型的作業(yè)處理器來運(yùn)行具有該作業(yè)類型的作業(yè)。根據(jù)其他示例性實(shí)施例，提供用于管理作業(yè)的計(jì)算機(jī)系統(tǒng)和計(jì)算機(jī)程序產(chǎn)品。因此，示例性實(shí)施例可以提供提高在計(jì)算機(jī)系統(tǒng)中運(yùn)行作業(yè)的性能的技術(shù)效果，其中可以減少運(yùn)行作業(yè)的等待時(shí)間。

技術(shù)領(lǐng)域

本發(fā)明一般地涉及改進(jìn)的計(jì)算機(jī)系統(tǒng)，更具體地涉及管理容器池中的工作負(fù)載。

背景技術(shù)

通過訓(xùn)練機(jī)器學(xué)習(xí)模型，運(yùn)行模型訓(xùn)練作業(yè)來訓(xùn)練機(jī)器學(xué)習(xí)模型。可將這些模型訓(xùn)練作業(yè)提交給訓(xùn)練服務(wù)。訓(xùn)練服務(wù)可接收在短時(shí)間間隔內(nèi)以高頻率運(yùn)行的模型訓(xùn)練作業(yè)。這些作業(yè)可以在短時(shí)間段內(nèi)完成機(jī)器學(xué)習(xí)模型訓(xùn)練。存在用于處理這些訓(xùn)練作業(yè)的資源的短或即時(shí)可用性的要求。

當(dāng)前，每個(gè)模型訓(xùn)練作業(yè)等待集群中的資源可用以運(yùn)行該模型訓(xùn)練作業(yè)。集群可以是例如包括運(yùn)行容器化應(yīng)用的節(jié)點(diǎn)的Kubernetes集群。這些容器化應(yīng)用被設(shè)計(jì)用于運(yùn)行模型訓(xùn)練作業(yè)。當(dāng)資源可用時(shí)，調(diào)度模型訓(xùn)練作業(yè)的運(yùn)行。調(diào)度包括創(chuàng)建和初始化運(yùn)行模型訓(xùn)練作業(yè)所需的容器的時(shí)間開銷。進(jìn)一步，調(diào)度設(shè)想是處理資源固定的，計(jì)算則專注于選擇并將作業(yè)分派給這些資源。

這種類型的過程可能不會(huì)像期望的那樣減少用于運(yùn)行模型訓(xùn)練作業(yè)的等待時(shí)間，因?yàn)樽鳂I(yè)的數(shù)量增加并且具有變化的頻率。

因此，期望有一種考慮了以上討論的問題中的至少一些以及其他可能的問題的方法和裝置。例如，期望有一種方法和裝置能通過提高運(yùn)行諸如模型訓(xùn)練作業(yè)的作業(yè)的效率來克服技術(shù)問題。

發(fā)明內(nèi)容

根據(jù)一個(gè)示例性實(shí)施例，提供了一種用于用作業(yè)處理池來管理作業(yè)的計(jì)算機(jī)實(shí)現(xiàn)的方法。計(jì)算機(jī)系統(tǒng)接收具有某作業(yè)類型的作業(yè)。計(jì)算機(jī)系統(tǒng)識(shí)別所述作業(yè)處理池中的用于運(yùn)行該作業(yè)類型的作業(yè)的作業(yè)處理池，其中，該個(gè)作業(yè)處理池包括用于運(yùn)行該作業(yè)類型的作業(yè)的作業(yè)處理器，并且其中，所述作業(yè)處理池中的另一個(gè)作業(yè)處理池包括用于運(yùn)行不同作業(yè)類型的作業(yè)的其他作業(yè)處理器。計(jì)算機(jī)系統(tǒng)用用于該作業(yè)類型的該個(gè)作業(yè)處理池中的該作業(yè)類型的作業(yè)處理器來運(yùn)行具有該作業(yè)類型的作業(yè)。

根據(jù)其他示例性實(shí)施例，提供用于管理作業(yè)的計(jì)算機(jī)系統(tǒng)和計(jì)算機(jī)程序產(chǎn)品。因此，示例性實(shí)施例可以提供提高在計(jì)算機(jī)系統(tǒng)中運(yùn)行作業(yè)的性能的技術(shù)效果，其中至少包括以下之一：增加作業(yè)處理的總吞吐量；減少運(yùn)行作業(yè)的等待時(shí)間；或減少在任何給定時(shí)間由作業(yè)處理器把持的資源。