[發(fā)明專利]用于實現(xiàn)多個推理計算引擎的方法和裝置

在審

• 申請?zhí)枺?/td>: 202010547189.1
• 申請日: 2020-06-16
• 公開（公告）號: CN112395246A
• 公開（公告）日: 2021-02-23
• 發(fā)明（設(shè)計）人: 以色列·迪亞曼德;羅尼·羅斯納;拉維·文卡泰桑;什洛米·舒瓦;奧茲·希特里特;海瑞塔·貝茲布羅茲;亞歷山大·亨德勒;奧哈德·法利克;齊吉·沃爾特;邁克爾·貝阿爾;什洛米·阿卡雷
• 申請（專利權(quán)）人: 英特爾公司
• 主分類號: G06F15/78
• 分類號: G06F15/78;G06F13/42;G06N5/04
• 代理公司: 北京東方億思知識產(chǎn)權(quán)代理有限責(zé)任公司 11258
• 代理人: 宗曉斌

本文中公開了用于實現(xiàn)多個推理計算引擎的方法和裝置。所公開的示例裝置包括第一推理計算引擎、第二推理計算引擎、以及一致結(jié)構(gòu)加速器，該一致結(jié)構(gòu)加速器用于將第一推理計算引擎和第二推理計算引擎耦合到片上系統(tǒng)的聚合式一致性結(jié)構(gòu)，并且該一致結(jié)構(gòu)加速器用于對來自第一推理計算引擎和第二推理計算引擎的請求進行仲裁以利用單個管芯內(nèi)互連端口。

技術(shù)領(lǐng)域

本公開總體涉及計算引擎，并且更具體地，涉及用于實現(xiàn)多個推理計算引擎的方法和裝置。

背景技術(shù)

近年來，已經(jīng)采用計算引擎或相關(guān)聯(lián)的微處理器的核心來執(zhí)行眾多并行計算操作。具體地，這些操作可涉及機器學(xué)習(xí)和人工智能(AI)應(yīng)用，并且這些操作通常在多個計算引擎(即，處理核心)上作為并行計算線程來執(zhí)行。

發(fā)明內(nèi)容

根據(jù)本公開的實施例，提供了一種裝置，包括：第一推理計算引擎；第二推理計算引擎；以及一致結(jié)構(gòu)加速器(ACF)，所述ACF用于將所述第一推理計算引擎和所述第二推理計算引擎耦合到片上系統(tǒng)的聚合式一致性結(jié)構(gòu)，所述ACF用于對來自所述第一推理計算引擎和所述第二推理計算引擎的請求進行仲裁以利用單個管芯內(nèi)互連端口。

根據(jù)本公開的實施例，提供了至少一個非暫態(tài)計算機可讀介質(zhì)，包括指令，所述指令當被執(zhí)行時使得機器至少執(zhí)行以下操作：在一致結(jié)構(gòu)加速器(ACF)處通過高級可擴展接口協(xié)議來接收來自第一推理計算引擎的第一請求；在所述ACF處通過所述高級可擴展接口協(xié)議來接收來自第二推理計算引擎的第二請求；在所述ACF處將所述第一請求轉(zhuǎn)換為管芯內(nèi)互連接口協(xié)議；以及將所述管芯內(nèi)互連接口協(xié)議的第一請求傳輸?shù)骄酆鲜揭恢滦越Y(jié)構(gòu)。

根據(jù)本公開的實施例，提供了一種方法，包括：在一致結(jié)構(gòu)加速器(ACF)處通過高級可擴展接口協(xié)議來接收來自第一推理計算引擎的第一請求；在所述ACF處通過所述高級可擴展接口協(xié)議來接收來自第二推理計算引擎的第二請求；在所述ACF處將所述第一請求轉(zhuǎn)換為管芯內(nèi)互連接口協(xié)議；以及將所述管芯內(nèi)互連接口協(xié)議的第一請求傳輸?shù)骄酆鲜揭恢滦越Y(jié)構(gòu)。

附圖說明

圖1是示例處理器片上系統(tǒng)(SoC)的框圖，該示例處理器片上系統(tǒng)集成各自包括多個ICE的執(zhí)行塊。

圖2是圖1的執(zhí)行塊的示例實現(xiàn)方式的框圖。

圖3是圖2的一致結(jié)構(gòu)加速器(accelerator on coherent fabric)的示例實現(xiàn)方式的框圖，該一致結(jié)構(gòu)加速器被包括在圖1的執(zhí)行塊中。

圖4是到管芯內(nèi)互連轉(zhuǎn)換器的高級可擴展接口的示例實現(xiàn)方式的框圖。

圖5是圖4的高級可擴展接口請求接受器的示例實現(xiàn)方式的框圖。

圖6是圖4的高級可擴展接口請求發(fā)送器的示例實現(xiàn)方式的框圖。

圖7是圖4的管芯內(nèi)互連接口的示例實現(xiàn)方式的框圖。

圖8至圖9是示出可以被執(zhí)行以實現(xiàn)圖3的AXI2IDI轉(zhuǎn)換器的示例機器可讀指令的流程圖。

圖10是可以執(zhí)行圖8至圖9的指令以實現(xiàn)圖3的示例AXI2IDI轉(zhuǎn)換器的示例處理系統(tǒng)的框圖。

附圖不是按比例繪制的。而是，層或區(qū)域的厚度在附圖中可能被放大。通常，貫穿(一個或多個)附圖和所附書面描述使用相同的附圖標記來指代相同或相似的部件。