[發(fā)明專利]用于提供具有可調(diào)節(jié)計(jì)算需求的機(jī)器學(xué)習(xí)模型的系統(tǒng)和方法

在審

• 申請?zhí)枺?/td>: 201980056728.7
• 申請日: 2019-09-19
• 公開（公告）號: CN112868033A
• 公開（公告）日: 2021-05-28
• 發(fā)明（設(shè)計(jì)）人: M.沙里夫;A.沙馬;A.莫德文特西夫
• 申請（專利權(quán)）人: 谷歌有限責(zé)任公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06F9/50;G06N3/08
• 代理公司: 北京市柳沈律師事務(wù)所 11105
• 代理人: 金玉潔

1.一種計(jì)算設(shè)備，包括：

至少一個(gè)處理器；

機(jī)器學(xué)習(xí)模型，包括多個(gè)塊和所述多個(gè)塊中的兩個(gè)或更多個(gè)塊之間的一個(gè)或多個(gè)殘差連接，其中所述機(jī)器學(xué)習(xí)模型被配置為接收模型輸入，并且響應(yīng)于模型輸入的接收，輸出模型輸出；

至少一個(gè)有形的、非瞬時(shí)性計(jì)算機(jī)可讀介質(zhì)，所述計(jì)算機(jī)可讀介質(zhì)存儲指令，所述指令當(dāng)由所述至少一個(gè)處理器執(zhí)行時(shí)使得所述至少一個(gè)處理器執(zhí)行操作，所述操作包括：

確定資源分配參數(shù)，所述資源分配參數(shù)與在推理時(shí)間對所述機(jī)器學(xué)習(xí)模型的系統(tǒng)資源的期望分配相對應(yīng)；

基于所述資源分配參數(shù)停用所述機(jī)器學(xué)習(xí)模型的多個(gè)塊的子集；

將所述模型輸入輸入到所述多個(gè)塊的子集被停用的機(jī)器學(xué)習(xí)模型；以及

接收所述模型輸出作為所述機(jī)器學(xué)習(xí)模型的輸出。

2.根據(jù)權(quán)利要求1所述的計(jì)算設(shè)備，其中選擇所述多個(gè)塊的子集以使得所述殘差連接中的至少一個(gè)繞過所述多個(gè)塊的子集中的每一個(gè)。

3.根據(jù)權(quán)利要求1所述的計(jì)算設(shè)備，其中所述多個(gè)塊的子集中的每一個(gè)位于所述機(jī)器學(xué)習(xí)模型的殘差連接的至少一個(gè)之間。

4.根據(jù)權(quán)利要求1所述的計(jì)算設(shè)備，其中所述資源分配參數(shù)基于以下中的一個(gè)或多個(gè)來確定：電池狀態(tài)、計(jì)算設(shè)備的模式、當(dāng)前可用處理器能力或當(dāng)前正在運(yùn)行的應(yīng)用的數(shù)量。

5.根據(jù)權(quán)利要求1所述的計(jì)算設(shè)備，其中確定所述資源分配參數(shù)包括從所述計(jì)算設(shè)備的用戶接收輸入。

6.根據(jù)權(quán)利要求1所述的計(jì)算設(shè)備，其中確定所述資源分配參數(shù)包括在將所述模型輸入輸入到所述機(jī)器學(xué)習(xí)模型之前確定所述資源分配參數(shù)。

7.根據(jù)權(quán)利要求1所述的計(jì)算設(shè)備，其中：

所述多個(gè)塊中的至少兩個(gè)塊殘差地連接在殘差鏈中；以及

停用所述機(jī)器學(xué)習(xí)模型的多個(gè)塊的子集包括停用所述殘差鏈的起始?xì)埐顗K和殘差尾部部分。

8.根據(jù)權(quán)利要求7所述的計(jì)算設(shè)備，其中：

所述殘差鏈從所述機(jī)器學(xué)習(xí)模型的輸入端向所述機(jī)器學(xué)習(xí)模型的輸出端延伸；以及

所述殘差尾部部分包括從所述起始?xì)埐顗K向所述機(jī)器學(xué)習(xí)模型的輸出端延伸的殘差鏈內(nèi)的塊。

9.根據(jù)權(quán)利要求1所述的計(jì)算設(shè)備，其中選擇所述多個(gè)塊的子集包括基于與所述機(jī)器學(xué)習(xí)模型內(nèi)的每個(gè)塊的相應(yīng)位置正相關(guān)的每個(gè)塊的相應(yīng)概率來選擇塊。

10.根據(jù)權(quán)利要求1所述的計(jì)算設(shè)備，其中：

所述資源分配參數(shù)與所述機(jī)器學(xué)習(xí)模型的最大目標(biāo)資源分配量相對應(yīng)；以及

選擇所述多個(gè)塊的子集包括基于每個(gè)塊的相應(yīng)資源消耗量來選擇塊，以將執(zhí)行所述機(jī)器學(xué)習(xí)模型所要求的資源量調(diào)節(jié)為小于所述最大目標(biāo)資源分配量。

11.根據(jù)權(quán)利要求1所述的計(jì)算設(shè)備，還包括基于所述資源分配參數(shù)的幅度來選擇用于停用的所述多個(gè)塊的子集的大小，以使得所述多個(gè)塊的子集的大小與所述資源分配參數(shù)的幅度負(fù)相關(guān)。

12.根據(jù)權(quán)利要求1所述的計(jì)算設(shè)備，其中停用所述機(jī)器學(xué)習(xí)模型的多個(gè)塊的子集包括停用所述機(jī)器學(xué)習(xí)模型的層。

13.根據(jù)權(quán)利要求1所述的計(jì)算設(shè)備，其中所述機(jī)器學(xué)習(xí)模型包括卷積神經(jīng)網(wǎng)絡(luò)，并且所述多個(gè)塊中的至少一個(gè)塊包括應(yīng)用至少一個(gè)卷積濾波器的卷積塊。