[發(fā)明專利]用于實(shí)現(xiàn)多個(gè)推理計(jì)算引擎的方法和裝置

在審

• 申請(qǐng)?zhí)枺?/td>: 202010547189.1
• 申請(qǐng)日: 2020-06-16
• 公開(kāi)（公告）號(hào): CN112395246A
• 公開(kāi)（公告）日: 2021-02-23
• 發(fā)明（設(shè)計(jì)）人: 以色列·迪亞曼德;羅尼·羅斯納;拉維·文卡泰桑;什洛米·舒瓦;奧茲·希特里特;海瑞塔·貝茲布羅茲;亞歷山大·亨德勒;奧哈德·法利克;齊吉·沃爾特;邁克爾·貝阿爾;什洛米·阿卡雷
• 申請(qǐng)（專利權(quán)）人: 英特爾公司
• 主分類號(hào): G06F15/78
• 分類號(hào): G06F15/78;G06F13/42;G06N5/04
• 代理公司: 北京東方億思知識(shí)產(chǎn)權(quán)代理有限責(zé)任公司 11258
• 代理人: 宗曉斌

1.一種裝置，包括：

第一推理計(jì)算引擎；

第二推理計(jì)算引擎；以及

一致結(jié)構(gòu)加速器(ACF)，所述ACF用于將所述第一推理計(jì)算引擎和所述第二推理計(jì)算引擎耦合到片上系統(tǒng)的聚合式一致性結(jié)構(gòu)，所述ACF用于對(duì)來(lái)自所述第一推理計(jì)算引擎和所述第二推理計(jì)算引擎的請(qǐng)求進(jìn)行仲裁以利用單個(gè)管芯內(nèi)互連端口。

2.根據(jù)權(quán)利要求1所述的裝置，還包括：第三推理計(jì)算引擎和第四推理計(jì)算引擎，所述第三推理計(jì)算引擎和所述第四推理計(jì)算引擎與第二ACF相關(guān)聯(lián)。

3.根據(jù)權(quán)利要求1-2中任一項(xiàng)所述的裝置，還包括：

所述聚合式一致性結(jié)構(gòu)；以及

輸入/輸出設(shè)備系統(tǒng)，所述輸入/輸出設(shè)備系統(tǒng)通過(guò)所述聚合式一致性結(jié)構(gòu)通信地耦合到所述ACF。

4.根據(jù)權(quán)利要求3所述的裝置，還包括：存儲(chǔ)器系統(tǒng)，所述存儲(chǔ)器系統(tǒng)通過(guò)所述聚合式一致性結(jié)構(gòu)耦合到所述ACF。

5.根據(jù)權(quán)利要求4所述的裝置，還包括：處理器核心，所述處理器核心通過(guò)所述聚合式一致性結(jié)構(gòu)耦合到所述ACF。

6.根據(jù)權(quán)利要求1-2中任一項(xiàng)所述的裝置，其中，所述聚合式一致性結(jié)構(gòu)包括末級(jí)緩存，所述末級(jí)緩存通過(guò)所述ACF與所述第一推理計(jì)算引擎和所述第二推理計(jì)算引擎相關(guān)聯(lián)。

7.根據(jù)權(quán)利要求6所述的裝置，其中，所述末級(jí)緩存通過(guò)環(huán)形網(wǎng)絡(luò)耦合到倒數(shù)第二級(jí)緩存。

8.根據(jù)權(quán)利要求1-2中任一項(xiàng)所述的裝置，其中，所述ACF以第一時(shí)鐘速率接收來(lái)自所述第一推理計(jì)算引擎的請(qǐng)求，并且以第二時(shí)鐘速率向所述聚合式一致性結(jié)構(gòu)發(fā)送請(qǐng)求。

9.根據(jù)權(quán)利要求1-2中任一項(xiàng)所述的裝置，其中，所述ACF包括轉(zhuǎn)換器，所述轉(zhuǎn)換器用于將使用高級(jí)可擴(kuò)展接口協(xié)議的通信轉(zhuǎn)換為管芯內(nèi)互連協(xié)議。

10.根據(jù)權(quán)利要求9所述的裝置，其中，所述轉(zhuǎn)換器包括高級(jí)可擴(kuò)展接口請(qǐng)求接受器，所述高級(jí)可擴(kuò)展接口請(qǐng)求接受器用于使用所述高級(jí)可擴(kuò)展接口協(xié)議來(lái)接收來(lái)自所述第一推理計(jì)算引擎和所述第二推理計(jì)算引擎的請(qǐng)求。

11.根據(jù)權(quán)利要求9所述的裝置，其中，所述轉(zhuǎn)換器包括高級(jí)可擴(kuò)展接口請(qǐng)求發(fā)送器，所述高級(jí)可擴(kuò)展接口請(qǐng)求發(fā)送器用于使用所述高級(jí)可擴(kuò)展接口協(xié)議向所述第一推理計(jì)算引擎和所述第二推理計(jì)算引擎發(fā)送請(qǐng)求。

12.一種方法，包括：

在一致結(jié)構(gòu)加速器(ACF)處通過(guò)高級(jí)可擴(kuò)展接口協(xié)議來(lái)接收來(lái)自第一推理計(jì)算引擎的第一請(qǐng)求；

在所述ACF處通過(guò)所述高級(jí)可擴(kuò)展接口協(xié)議來(lái)接收來(lái)自第二推理計(jì)算引擎的第二請(qǐng)求；

在所述ACF處將所述第一請(qǐng)求轉(zhuǎn)換為管芯內(nèi)互連接口協(xié)議；以及

將所述管芯內(nèi)互連接口協(xié)議的第一請(qǐng)求傳輸?shù)骄酆鲜揭恢滦越Y(jié)構(gòu)。

13.根據(jù)權(quán)利要求12所述的方法，還包括：在所述ACF處將所述第二請(qǐng)求轉(zhuǎn)換為管芯內(nèi)互連接口協(xié)議。

14.根據(jù)權(quán)利要求13所述的方法，其中，所述第一請(qǐng)求是用于訪問(wèn)輸入/輸出設(shè)備系統(tǒng)中的設(shè)備的請(qǐng)求，所述輸入/輸出設(shè)備系統(tǒng)通過(guò)所述聚合式一致性結(jié)構(gòu)通信地耦合到所述ACF。

15.根據(jù)權(quán)利要求12-14中任一項(xiàng)所述的方法，還包括：以第一時(shí)鐘速率接收來(lái)自所述第一推理計(jì)算引擎的請(qǐng)求，并且以第二時(shí)鐘速率向所述聚合式一致性結(jié)構(gòu)發(fā)送請(qǐng)求。

16.根據(jù)權(quán)利要求12-14中任一項(xiàng)所述的方法，還包括：將使用高級(jí)可擴(kuò)展接口協(xié)議的通信轉(zhuǎn)換為管芯內(nèi)互連協(xié)議。