[發(fā)明專利]機(jī)器學(xué)習(xí)模型部署方法及其裝置、設(shè)備、介質(zhì)、產(chǎn)品

在審

• 申請?zhí)枺?/td>: 202211185878.8
• 申請日: 2022-09-27
• 公開（公告）號(hào): CN115599396A
• 公開（公告）日: 2023-01-13
• 發(fā)明（設(shè)計(jì)）人: 林劍周
• 申請（專利權(quán)）人: 廣州華多網(wǎng)絡(luò)科技有限公司
• 主分類號(hào): G06F8/60
• 分類號(hào): G06F8/60;G06F8/61;G06F8/36;G06N20/00;G06N3/10
• 代理公司: 廣州利能知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 44673
• 代理人: 王增鑫

1.一種機(jī)器學(xué)習(xí)模型部署方法，其特征在于，包括：

獲取包含多個(gè)組件的機(jī)器學(xué)習(xí)模型的編排文件，所述編排文件包括部署所述機(jī)器學(xué)習(xí)模型的過程中的多個(gè)有序環(huán)節(jié)相對應(yīng)的多個(gè)任務(wù)的描述信息；

根據(jù)所述編排文件中各個(gè)有序環(huán)節(jié)的描述信息，有序生成相應(yīng)的任務(wù)執(zhí)行指令，響應(yīng)各個(gè)任務(wù)執(zhí)行指令而執(zhí)行相應(yīng)有序環(huán)節(jié)的部署任務(wù)，完成所述機(jī)器學(xué)習(xí)模型的各個(gè)組件在容器支持框架的部署；

啟動(dòng)所述機(jī)器學(xué)習(xí)模型相對應(yīng)的代理服務(wù)，用于響應(yīng)外部請求而調(diào)用所述容器支持框架中的機(jī)器學(xué)習(xí)模型，獲得相應(yīng)的處理結(jié)果應(yīng)答該外部請求。

2.根據(jù)權(quán)利要求1所述的機(jī)器學(xué)習(xí)模型部署方法，其特征在于，所述編排文件的描述信息，包括：

鏡像構(gòu)建描述信息，用于描述所述機(jī)器學(xué)習(xí)模型運(yùn)行時(shí)所需的程序資源信息，其中包括用于產(chǎn)生機(jī)器學(xué)習(xí)模型實(shí)例的代碼資源和用于支持該實(shí)例運(yùn)行的引擎資源；

模型發(fā)布描述信息，用于描述所述機(jī)器學(xué)習(xí)模型的各個(gè)組件所需的容器的運(yùn)行資源信息；

調(diào)用鏈描述信息，用于描述所述機(jī)器學(xué)習(xí)模型的每個(gè)組件相對于其他各個(gè)組件的依賴關(guān)系信息；

部署環(huán)境描述信息，用于描述所述機(jī)器學(xué)習(xí)模型在所述容器支持框架中的具有唯一性特征的部署環(huán)境信息。

3.根據(jù)權(quán)利要求2所述的機(jī)器學(xué)習(xí)模型部署方法，其特征在于，根據(jù)所述編排文件中各個(gè)有序環(huán)節(jié)的描述信息，有序生成相應(yīng)的任務(wù)執(zhí)行指令，響應(yīng)各個(gè)任務(wù)執(zhí)行指令而執(zhí)行相應(yīng)有序環(huán)節(jié)的部署任務(wù)，完成所述機(jī)器學(xué)習(xí)模型的各個(gè)組件在容器支持框架的部署，包括：

根據(jù)所述編排文件中的鏡像構(gòu)建描述信息，生成鏡像構(gòu)建任務(wù)相對應(yīng)的第一任務(wù)執(zhí)行指令，響應(yīng)于第一任務(wù)執(zhí)行指令，調(diào)用所述鏡像構(gòu)建描述信息中指定的程序資源信息創(chuàng)建所述機(jī)器學(xué)習(xí)模型的鏡像；

根據(jù)所述編排文件中的模型發(fā)布描述信息，生成模型發(fā)布任務(wù)相對應(yīng)的第二任務(wù)執(zhí)行指令，響應(yīng)于第二任務(wù)執(zhí)行指令，按照所述模型發(fā)布描述信息中指定的運(yùn)行資源信息為所述機(jī)器學(xué)習(xí)模型的各個(gè)組件確定相應(yīng)的運(yùn)行資源并完成所述鏡像中各個(gè)組件的發(fā)布；

根據(jù)所述編排文件中的調(diào)用鏈描述信息和部署環(huán)境描述信息，生成容器配置任務(wù)相對應(yīng)的第三任務(wù)執(zhí)行指令，響應(yīng)于第三任務(wù)執(zhí)行指令，根據(jù)所述調(diào)用鏈描述信息在所述容器支持框架中配置各個(gè)所述的組件的依賴關(guān)系信息，根據(jù)所述部署環(huán)境描述信息在所述容器支持框架中配置所述機(jī)器學(xué)習(xí)模型的部署環(huán)境信息。

4.根據(jù)權(quán)利要求2所述的機(jī)器學(xué)習(xí)模型部署方法，其特征在于，所述編排文件以結(jié)構(gòu)化數(shù)據(jù)表示所述機(jī)器學(xué)習(xí)模型的多個(gè)任務(wù)的描述信息，其中，每個(gè)組件相對應(yīng)的所述模型發(fā)布描述信息、調(diào)用鏈描述信息被封裝于同一組件邏輯單元中。

5.根據(jù)權(quán)利要求1至4中任意一項(xiàng)所述的機(jī)器學(xué)習(xí)模型部署方法，其特征在于，啟動(dòng)所述機(jī)器學(xué)習(xí)模型相對應(yīng)的代理服務(wù)，用于響應(yīng)外部請求而調(diào)用所述容器支持框架中的機(jī)器學(xué)習(xí)模型，獲得相應(yīng)的處理結(jié)果應(yīng)答該外部請求，包括：

啟動(dòng)所述機(jī)器學(xué)習(xí)模型相對應(yīng)的代理服務(wù)，使該代理服務(wù)適于響應(yīng)外部請求而調(diào)用所述機(jī)器學(xué)習(xí)模型；

由所述代理服務(wù)響應(yīng)于外部請求而調(diào)用所述機(jī)器學(xué)習(xí)模型，以所述外部請求所攜帶的源數(shù)據(jù)作為所述機(jī)器學(xué)習(xí)模型的輸入信息，獲得所述機(jī)器學(xué)習(xí)模型處理所述輸入信息后獲得的結(jié)果信息；

以所述結(jié)果信息應(yīng)答所述外部請求。

6.根據(jù)權(quán)利要求1至4中任意一項(xiàng)所述的機(jī)器學(xué)習(xí)模型部署方法，其特征在于，根據(jù)所述編排文件中各個(gè)有序環(huán)節(jié)的描述信息，有序生成相應(yīng)的任務(wù)執(zhí)行指令的步驟由預(yù)設(shè)的分析模塊執(zhí)行，響應(yīng)各個(gè)任務(wù)執(zhí)行指令而執(zhí)行相應(yīng)有序環(huán)節(jié)的部署任務(wù)，完成所述機(jī)器學(xué)習(xí)模型的各個(gè)組件在容器支持框架的部署的步驟由預(yù)設(shè)的執(zhí)行模塊執(zhí)行，所述分析模塊與所述執(zhí)行模塊之間通過接口調(diào)用實(shí)現(xiàn)數(shù)據(jù)通信。