[發(fā)明專利]用于映射工作負載的方法、系統(tǒng)、制品和裝置

在審

• 申請?zhí)枺?/td>: 202010585628.8
• 申請日: 2020-06-24
• 公開（公告）號: CN112396173A
• 公開（公告）日: 2021-02-23
• 發(fā)明（設(shè)計）人: 埃斯特爾·阿法洛;阿米特·布萊維斯;馬蒂亞斯·馬爾德;以利蘭·齊默爾曼
• 申請（專利權(quán)）人: 英特爾公司
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06N3/04;G06N3/08;G06N5/04;G06F9/50
• 代理公司: 北京東方億思知識產(chǎn)權(quán)代理有限責(zé)任公司 11258
• 代理人: 宗曉斌

1.一種用于為神經(jīng)網(wǎng)絡(luò)生成資源映射的裝置，所述裝置包括：

約束定義器，所述約束定義器用于定義所述神經(jīng)網(wǎng)絡(luò)的性能特性目標；

動作確定器，所述動作確定器用于將第一資源配置應(yīng)用于與所述神經(jīng)網(wǎng)絡(luò)相對應(yīng)的候選資源；

回報確定器，所述回報確定器用于基于(a)資源性能度量和(b)所述性能特性目標來計算結(jié)果度量；以及

層映射生成器，所述層映射生成器用于生成資源映射文件，所述資源映射文件包括針對所述神經(jīng)網(wǎng)絡(luò)的對應(yīng)層的相應(yīng)資源分配，所述資源分配是基于所述結(jié)果度量來選擇的。

2.根據(jù)權(quán)利要求1所述的裝置，還包括神經(jīng)網(wǎng)絡(luò)映射器，所述神經(jīng)網(wǎng)絡(luò)映射器用于掃描目標平臺以識別用于執(zhí)行所述神經(jīng)網(wǎng)絡(luò)的候選資源。

3.根據(jù)權(quán)利要求1或2中任一項所述的裝置，其中，所述回報確定器用于基于所述結(jié)果度量來生成迭代決策。

4.根據(jù)權(quán)利要求3所述的裝置，其中，所述回報確定器用于使所述動作確定器將第二資源配置應(yīng)用于所述候選資源。

5.根據(jù)權(quán)利要求4所述的裝置，其中，所述回報確定器用于：基于所述第一資源配置或所述第二資源配置的相對得分，將所述第一資源配置或所述第二資源配置中的一者存儲為最終資源指令。

6.根據(jù)權(quán)利要求3所述的裝置，其中，所述回報確定器的所述迭代決策使所述動作確定器響應(yīng)于收斂指示符而停止對所述神經(jīng)網(wǎng)絡(luò)的當(dāng)前層進行評估。

7.根據(jù)權(quán)利要求6所述的裝置，還包括層選擇器，所述層選擇器用于：響應(yīng)于所述收斂指示符而選擇所述神經(jīng)網(wǎng)絡(luò)的后續(xù)層進行分析。

8.根據(jù)權(quán)利要求1或2中任一項所述的裝置，還包括狀態(tài)定義器，所述狀態(tài)定義器用于生成與使用所述第一資源配置對所述候選資源的執(zhí)行相對應(yīng)的所述資源性能度量。

9.根據(jù)權(quán)利要求1或2中任一項所述的裝置，還包括神經(jīng)網(wǎng)絡(luò)映射器，所述神經(jīng)網(wǎng)絡(luò)映射器用于基于所述資源映射文件覆寫編譯器指令。

10.根據(jù)權(quán)利要求1所述的裝置，還包括神經(jīng)網(wǎng)絡(luò)輸入檢測器，所述神經(jīng)網(wǎng)絡(luò)輸入檢測器用于檢索與所述神經(jīng)網(wǎng)絡(luò)相對應(yīng)的模型。

11.一種非暫態(tài)計算機可讀存儲介質(zhì)，包括計算機可讀指令，指令在被執(zhí)行時，使一個或多個處理器至少執(zhí)行以下操作：

定義神經(jīng)網(wǎng)絡(luò)的性能特性目標；

將第一資源配置應(yīng)用于與所述神經(jīng)網(wǎng)絡(luò)相對應(yīng)的候選資源；

基于(a)資源性能度量和(b)所述性能特性目標來計算結(jié)果度量；以及

生成資源映射文件，所述資源映射文件包括針對所述神經(jīng)網(wǎng)絡(luò)的對應(yīng)層的相應(yīng)資源分配，所述資源分配是基于所述結(jié)果度量來選擇的。

12.根據(jù)權(quán)利要求11所述的存儲介質(zhì)，其中，所述指令在被執(zhí)行時，使所述一個或多個處理器：掃描目標平臺以識別用于執(zhí)行所述神經(jīng)網(wǎng)絡(luò)的候選資源。

13.根據(jù)權(quán)利要求11或12中任一項所述的存儲介質(zhì)，其中，所述指令在被執(zhí)行時，使所述一個或多個處理器：基于所述結(jié)果度量來生成迭代決策。

14.根據(jù)權(quán)利要求13所述的存儲介質(zhì)，其中，所述指令在被執(zhí)行時，使所述一個或多個處理器：將第二資源配置應(yīng)用于所述候選資源。

15.根據(jù)權(quán)利要求14所述的存儲介質(zhì)，其中，所述指令在被執(zhí)行時，使所述一個或多個處理器：基于所述第一資源配置或所述第二資源配置的相對得分，將所述第一資源配置或所述第二資源配置中的一者存儲為最終資源指令。

16.根據(jù)權(quán)利要求13所述的存儲介質(zhì)，其中，所述指令在被執(zhí)行時，使所述一個或多個處理器：響應(yīng)于收斂指示符而停止對所述神經(jīng)網(wǎng)絡(luò)的當(dāng)前層進行評估。