[發(fā)明專利]線程化作為服務(wù)

在審

• 申請(qǐng)?zhí)枺?/td>: 201580053106.0
• 申請(qǐng)日: 2015-09-29
• 公開（公告）號(hào): CN107111507A
• 公開（公告）日: 2017-08-29
• 發(fā)明（設(shè)計(jì)）人: 蒂莫西·艾倫·瓦格納
• 申請(qǐng)（專利權(quán)）人: 亞馬遜技術(shù)有限公司
• 主分類號(hào): G06F9/455
• 分類號(hào): G06F9/455
• 代理公司: 北京天昊聯(lián)合知識(shí)產(chǎn)權(quán)代理有限公司11112
• 代理人: 顧麗波,井杰

對(duì)同時(shí)提交申請(qǐng)的交叉引用

本申請(qǐng)的申請(qǐng)人在2014年9月30日同時(shí)提交以下美國(guó)專利申請(qǐng)：

以上引用的申請(qǐng)的公開內(nèi)容通過引用整體并入本文。

背景

一般來(lái)說，計(jì)算裝置利用通信網(wǎng)絡(luò)或一系列通信網(wǎng)絡(luò)進(jìn)行數(shù)據(jù)交換。公司和組織操作互連許多計(jì)算裝置來(lái)支持操作或者向第三方提供服務(wù)的計(jì)算機(jī)網(wǎng)絡(luò)。計(jì)算系統(tǒng)可位于單一地理位置或者位于多個(gè)不同地理位置中(例如，經(jīng)由私有或公共通信網(wǎng)絡(luò)互連)。確切地，數(shù)據(jù)中心或數(shù)據(jù)處理中心(在本文中總體稱之為“數(shù)據(jù)中心”)可包括多個(gè)互連的計(jì)算系統(tǒng)以向數(shù)據(jù)中心的用戶提供計(jì)算資源。數(shù)據(jù)中心可以是代表某一組織操作的私有數(shù)據(jù)中心或代表公眾或者為了公眾的利益操作的公共數(shù)據(jù)中心。

為了促進(jìn)數(shù)據(jù)中心資源的加大利用，虛擬化技術(shù)可允許單個(gè)物理計(jì)算裝置托管虛擬機(jī)的一個(gè)或多個(gè)實(shí)例，所述虛擬機(jī)作為獨(dú)立計(jì)算裝置向數(shù)據(jù)中心的用戶展現(xiàn)并操作。利用虛擬化，單個(gè)物理計(jì)算裝置可按照動(dòng)態(tài)方式創(chuàng)建、維護(hù)、刪除或以其他方式管理虛擬機(jī)。進(jìn)而，用戶可從數(shù)據(jù)中心請(qǐng)求計(jì)算機(jī)資源，包括單一計(jì)算裝置或聯(lián)網(wǎng)計(jì)算裝置配置，并且可提供用戶不同數(shù)目的虛擬機(jī)資源。

在一些場(chǎng)景中，虛擬機(jī)實(shí)例可根據(jù)多個(gè)虛擬機(jī)實(shí)例類型進(jìn)行配置以提供特定功能性。例如，各種計(jì)算裝置可與操作系統(tǒng)或操作系統(tǒng)配置、虛擬化硬件資源和軟件應(yīng)用的不同組合相關(guān)聯(lián)，以使得計(jì)算裝置能夠提供不同的所希望的功能性，或者更有效地提供類似功能性。這些虛擬機(jī)實(shí)例類型配置經(jīng)常包含在裝置圖像內(nèi)，所述裝置圖像包括靜態(tài)數(shù)據(jù)，所述靜態(tài)數(shù)據(jù)包含虛擬機(jī)在被啟動(dòng)時(shí)將運(yùn)行的軟件(例如，OS和應(yīng)用以及它們的配置和數(shù)據(jù)文件等)。裝置圖像典型地存儲(chǔ)在用來(lái)創(chuàng)建或初始化實(shí)例的硬盤上。因此，計(jì)算裝置可處理裝置圖像以便實(shí)現(xiàn)所希望的軟件配置。

附圖簡(jiǎn)述

當(dāng)結(jié)合附圖參閱以下詳細(xì)描述時(shí)，本公開的上述方面和許多伴隨的優(yōu)點(diǎn)將變得更容易明白，同時(shí)變得更好理解，附圖中：

圖1是描繪用于獲取低延時(shí)計(jì)算能力的說明性環(huán)境的框圖；

圖2描繪提供用于獲取低延時(shí)計(jì)算能力的虛擬計(jì)算系統(tǒng)管理器的計(jì)算裝置的總體架構(gòu)；

圖3是示出根據(jù)示例性方面的由工作器管理器實(shí)現(xiàn)的低延時(shí)計(jì)算能力獲取例程的流程圖；并且

圖4是示出處理執(zhí)行用戶代碼的請(qǐng)求的虛擬機(jī)實(shí)例管理過程的框圖。

詳細(xì)描述

公司和組織不再需要獲取和管理他們自己的數(shù)據(jù)中心來(lái)執(zhí)行計(jì)算操作(例如，執(zhí)行代碼，包括線程、程序、軟件、例程、子例程、進(jìn)程等)。隨著云計(jì)算的出現(xiàn)，傳統(tǒng)上由硬件計(jì)算裝置提供的存儲(chǔ)空間和計(jì)算能力現(xiàn)在可在數(shù)分鐘內(nèi)通過互聯(lián)網(wǎng)獲得并配置。因此，開發(fā)者可快速購(gòu)買期望量的計(jì)算資源，而不必?fù)?dān)心獲取物理機(jī)器。這類計(jì)算資源通常以虛擬計(jì)算資源或虛擬機(jī)實(shí)例的形式來(lái)購(gòu)買。在具有其自己的操作系統(tǒng)和其他軟件部件的物理計(jì)算裝置上托管的虛擬機(jī)的這些實(shí)例可以以與物理計(jì)算機(jī)相同的方式加以利用。

然而，即使在購(gòu)買虛擬計(jì)算資源時(shí)，開發(fā)者仍不得不決定要購(gòu)買的虛擬機(jī)實(shí)例的數(shù)量和類型以及持有時(shí)間。例如，根據(jù)它們租用的類型和小時(shí)數(shù)，使用虛擬機(jī)實(shí)例的成本可能不同。另外，虛擬機(jī)可被租用的最小時(shí)間典型地以小時(shí)計(jì)。進(jìn)一步地，開發(fā)者不得不指定安裝在虛擬機(jī)上的硬件和軟件資源(例如，操作系統(tǒng)類型和語(yǔ)言運(yùn)行時(shí)間等)。它們可能具有的其他問題包括利用過度(例如，獲取極少計(jì)算資源而面臨性能問題)、利用不足(例如，獲取比運(yùn)行代碼所需更多的計(jì)算資源，并且因此付費(fèi)過度)、流量變化預(yù)測(cè)(例如，以使得它們了解何時(shí)放大規(guī)模或減小規(guī)模)以及實(shí)例和語(yǔ)言運(yùn)行時(shí)間啟動(dòng)延遲(這可花費(fèi)3-10分鐘或者更長(zhǎng)，即使用戶可能希望計(jì)算能力以秒或者甚至毫秒計(jì))。因此，需要一種允許用戶利用由服務(wù)提供商提供的虛擬機(jī)實(shí)例的改進(jìn)方法。

根據(jù)本公開的各方面，通過維護(hù)一旦接收到用戶請(qǐng)求就準(zhǔn)備好使用的預(yù)初始化虛擬機(jī)實(shí)例的池，與執(zhí)行用戶代碼相關(guān)聯(lián)的延遲(有時(shí)稱為延時(shí))(例如，實(shí)例和語(yǔ)言運(yùn)行時(shí)間啟動(dòng)時(shí)間)可顯著減少。

一般來(lái)說，本公開的各方面涉及對(duì)虛擬機(jī)實(shí)例和其中創(chuàng)建的容器的管理。具體地，公開有助于虛擬計(jì)算系統(tǒng)中的虛擬機(jī)實(shí)例的管理的系統(tǒng)和方法。虛擬計(jì)算系統(tǒng)維護(hù)在其上加載有一個(gè)或多個(gè)軟件部件(例如，操作系統(tǒng)、語(yǔ)言運(yùn)行時(shí)間、庫(kù)等)的虛擬機(jī)實(shí)例的池。池中的虛擬機(jī)實(shí)例可指定來(lái)服務(wù)用戶請(qǐng)求以執(zhí)行程序代碼。程序代碼可在虛擬機(jī)實(shí)例上創(chuàng)建的隔離容器中執(zhí)行。由于池中的虛擬機(jī)實(shí)例已經(jīng)被啟動(dòng)并且在接收到請(qǐng)求時(shí)加載有特定的操作系統(tǒng)和語(yǔ)言運(yùn)行時(shí)間，所以與發(fā)現(xiàn)可處理請(qǐng)求(例如，通過在虛擬機(jī)實(shí)例上創(chuàng)建的一個(gè)或多個(gè)容器中執(zhí)行用戶代碼)的計(jì)算能力相關(guān)聯(lián)的延遲顯著減少。