[發(fā)明專利]動(dòng)態(tài)混合計(jì)算環(huán)境

在審

• 申請(qǐng)?zhí)枺?/td>: 201980041412.0
• 申請(qǐng)日: 2019-06-19
• 公開(kāi)（公告）號(hào): CN112313625A
• 公開(kāi)（公告）日: 2021-02-02
• 發(fā)明（設(shè)計(jì)）人: 文彤;S·拉古納坦;A·安納瓦杰哈拉;C·Y·樸;I·馬蒂亞希
• 申請(qǐng)（專利權(quán)）人: 微軟技術(shù)許可有限責(zé)任公司
• 主分類號(hào): G06F9/50
• 分類號(hào): G06F9/50
• 代理公司: 北京市金杜律師事務(wù)所 11256
• 代理人: 辛鳴

本文中的各種實(shí)施例各自包括用于諸如在云計(jì)算中實(shí)例化、執(zhí)行以及操作動(dòng)態(tài)混合計(jì)算環(huán)境的系統(tǒng)、方法和軟件中的至少一項(xiàng)。一些這樣的實(shí)施例包括分配第一服務(wù)器集群的計(jì)算資源以實(shí)例化第一集群并且以建立計(jì)算會(huì)話。這一實(shí)施例然后可以發(fā)起第一集群內(nèi)的程序的執(zhí)行，該執(zhí)行當(dāng)?shù)诙罕粚?shí)例化時(shí)，將至少一個(gè)計(jì)算任務(wù)卸載到第二集群，以利用第二集群的關(guān)于某些計(jì)算操作的高計(jì)算速度性能能力。響應(yīng)于程序執(zhí)行的完成，第二集群然后被解除分配。

背景技術(shù)

深度學(xué)習(xí)的繁榮由大型數(shù)據(jù)集和大型神經(jīng)網(wǎng)絡(luò)兩者推動(dòng)。利用大型數(shù)據(jù)集訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)(DNN)是極其計(jì)算密集的。訓(xùn)練要求具有諸如加速器的特殊硬件配置以及具有低延時(shí)和高吞吐量的高速聯(lián)網(wǎng)技術(shù)的機(jī)器，以實(shí)現(xiàn)現(xiàn)實(shí)的訓(xùn)練時(shí)間。針對(duì)典型的數(shù)據(jù)科學(xué)工作流，數(shù)據(jù)準(zhǔn)備和特征化階段以及稍后的模型評(píng)估階段可以在較便宜的諸如在MapReduce分布式計(jì)算模式的規(guī)模中的Apache Spark集群通用(commodity)硬件上被運(yùn)行。同時(shí)，諸如DNN的一些其他更加計(jì)算密集的工作負(fù)載可能要求緊密耦合的并行實(shí)現(xiàn)，其被構(gòu)建在消息傳遞接口(MPI)框架上，并且包括用以支持高性能并行化的加速器。然而，具有諸如圖形處理單元(GPU)的加速器的機(jī)器一般較昂貴，除了這些機(jī)器以外的非通用機(jī)器僅可以被部分地利用，當(dāng)它們的特殊目的計(jì)算資源未被利用時(shí)保持休眠。這導(dǎo)致了昂貴的非通用計(jì)算資源利用不足。

發(fā)明內(nèi)容

本文中的各種實(shí)施例中的每個(gè)實(shí)施例包括用于諸如在云計(jì)算中實(shí)例化、執(zhí)行和操作動(dòng)態(tài)混合計(jì)算環(huán)境的系統(tǒng)、方法和軟件中的至少一項(xiàng)。

以方法的形式的一個(gè)實(shí)施例包括接收分配輸入，該分配輸入標(biāo)識(shí)將被附著到計(jì)算會(huì)話的虛擬計(jì)算資源。在一些實(shí)施例中，計(jì)算資源包括在第一硬件類型上操作的至少一個(gè)虛擬機(jī)的第一集群，以及在第二硬件類型上執(zhí)行的至少一個(gè)虛擬機(jī)的第二集群。該方法還包括接收安全連接性輸入以使第一集群和第二集群兩者的虛擬機(jī)能夠傳達(dá)數(shù)據(jù)。在接收分配輸入和安全連接性輸入之后，該方法然后可以分配虛擬計(jì)算環(huán)境內(nèi)的計(jì)算資源，以根據(jù)分配輸入建立計(jì)算會(huì)話，并且根據(jù)安全連接性輸入建立所分配的計(jì)算資源之間的安全連接性。程序的執(zhí)行然后可以在第一集群內(nèi)被發(fā)起，該執(zhí)行將至少一個(gè)計(jì)算任務(wù)卸載到第二集群，以利用第二硬件類型的性能增強(qiáng)能力。被卸載到第二集群的計(jì)算任務(wù)包括第一集群對(duì)數(shù)據(jù)從第一集群到分布式文件系統(tǒng)的復(fù)制，以允許第二集群的虛擬機(jī)創(chuàng)建、讀取、更新和刪除其中的數(shù)據(jù)，從而使得分布式文件系統(tǒng)中的數(shù)據(jù)對(duì)第一集群和第二集群兩者的虛擬機(jī)立即可用。

以系統(tǒng)的形式的另一實(shí)施例包括第一服務(wù)器計(jì)算機(jī)集群，在第一服務(wù)器計(jì)算機(jī)集群上多個(gè)虛擬機(jī)可以被實(shí)例化以用于形成第一集群。這一系統(tǒng)還包括第二服務(wù)器計(jì)算機(jī)集群，在第二服務(wù)器計(jì)算機(jī)集群上多個(gè)虛擬機(jī)可以被實(shí)例化以形成第二集群。第二計(jì)算機(jī)集群的每個(gè)服務(wù)器計(jì)算機(jī)包括至少一個(gè)硬件元件，與某些計(jì)算操作當(dāng)由第一服務(wù)器集群的服務(wù)器執(zhí)行時(shí)相比較，該至少一個(gè)硬件元件具有關(guān)于相同的某些計(jì)算操作的高計(jì)算速度性能能力。這一實(shí)施例的系統(tǒng)還包括虛擬網(wǎng)絡(luò)基礎(chǔ)設(shè)施，該虛擬網(wǎng)絡(luò)基礎(chǔ)設(shè)施將第一服務(wù)器集群和第二服務(wù)器集群互連以提供虛擬計(jì)算環(huán)境。虛擬網(wǎng)絡(luò)基礎(chǔ)設(shè)施還包括門(mén)戶，人類用戶和邏輯用戶通過(guò)該門(mén)戶與在虛擬計(jì)算環(huán)境內(nèi)執(zhí)行的過(guò)程和資源對(duì)接。該門(mén)戶包括被存儲(chǔ)在第一服務(wù)器集群的服務(wù)器計(jì)算機(jī)中的一個(gè)服務(wù)器計(jì)算機(jī)的存儲(chǔ)器內(nèi)的指令，指令在該一個(gè)服務(wù)器計(jì)算機(jī)的處理器上可執(zhí)行以執(zhí)行數(shù)據(jù)處理活動(dòng)。該門(mén)戶的這些數(shù)據(jù)處理活動(dòng)包括分配第一服務(wù)器集群的計(jì)算資源以實(shí)例化第一集群并且以建立計(jì)算會(huì)話。該門(mén)戶的數(shù)據(jù)處理活動(dòng)還包括在第一集群內(nèi)發(fā)起程序的執(zhí)行，當(dāng)?shù)诙罕粚?shí)例化時(shí)，該執(zhí)行將至少一個(gè)計(jì)算任務(wù)卸載到第二集群，以利用第二集群的關(guān)于某些計(jì)算操作的高計(jì)算速度性能能力。在一些實(shí)施例中，第二集群的實(shí)例化可以在計(jì)算任務(wù)被卸載到第二集群之前立即發(fā)生。被卸載到第二集群的計(jì)算任務(wù)包括第一集群對(duì)數(shù)據(jù)從第一集群到分布式文件系統(tǒng)的復(fù)制，以允許第二集群的虛擬機(jī)創(chuàng)建、讀取、更新和刪除其中的數(shù)據(jù)，從而使得分布式文件系統(tǒng)中的數(shù)據(jù)對(duì)第一集群和第二集群兩者中的虛擬機(jī)立即可用。響應(yīng)于程序執(zhí)行的完成，一些實(shí)施例的數(shù)據(jù)處理活動(dòng)然后可以將至少第二集群解除分配。

附圖說(shuō)明

圖1是根據(jù)示例實(shí)施例的系統(tǒng)的邏輯框圖。