[發(fā)明專利]一種基于網(wǎng)絡(luò)互聯(lián)的AI邊緣計(jì)算一體機(jī)架構(gòu)

在審

• 申請(qǐng)?zhí)枺?/td>: 202110337881.6
• 申請(qǐng)日: 2021-03-30
• 公開（公告）號(hào): CN112948316A
• 公開（公告）日: 2021-06-11
• 發(fā)明（設(shè)計(jì)）人: 李洪明;趙浩峰;趙君蘭
• 申請(qǐng)（專利權(quán)）人: 深圳市吉方工控有限公司
• 主分類號(hào): G06F15/17
• 分類號(hào): G06F15/17;G06F13/10;G06F13/42
• 代理公司: 北京萬(wàn)貝專利代理事務(wù)所(特殊普通合伙) 11520
• 代理人: 馬紅

本發(fā)明公開了一種基于網(wǎng)絡(luò)互聯(lián)的AI邊緣計(jì)算一體機(jī)架構(gòu)，包括AI邊緣計(jì)算控制板和加速卡擴(kuò)展底板，所述AI邊緣計(jì)算控制板和AI加速卡擴(kuò)展底板通過(guò)標(biāo)準(zhǔn)PCIE X4接口及金手指連接，所述加速卡擴(kuò)展底板通過(guò)PCIE X16及PCIE X16金手指連有AI加速卡和網(wǎng)絡(luò)交換卡。本發(fā)明針對(duì)現(xiàn)有技術(shù)存在的上述不足，解決了原來(lái)基于標(biāo)準(zhǔn)服務(wù)器的成本高、擴(kuò)展的加速卡數(shù)量有限、算力有限的問(wèn)題，提高了使用的靈活性，使用一臺(tái)服務(wù)器作為AI服務(wù)器一體機(jī)控制核心的情況下，可以使擴(kuò)展的加速卡數(shù)量提高64倍，并且使單個(gè)加速卡節(jié)省高速連接器、信號(hào)增強(qiáng)芯片、PCIE非通名橋器件，單卡成本大大減少。

技術(shù)領(lǐng)域

本發(fā)明涉及計(jì)算機(jī)技術(shù)領(lǐng)域，具體為一種基于網(wǎng)絡(luò)互聯(lián)的AI邊緣計(jì)算一體機(jī)架構(gòu)。

背景技術(shù)

目前市面上廣泛使用的邊緣計(jì)算服務(wù)器機(jī)柜擴(kuò)展PCIE加速卡，小型工控整機(jī)AI加速卡方案大多數(shù)都采用標(biāo)準(zhǔn)PCIE X16接口及標(biāo)準(zhǔn)PCIE X16信號(hào)做為加速卡連接及擴(kuò)展接口標(biāo)準(zhǔn)，存在以下弊端：

1.標(biāo)準(zhǔn)的服務(wù)器板載有限的PCIE X16接口，大多數(shù)只有1-4個(gè)PCIE X16擴(kuò)展槽，一臺(tái)服務(wù)器上可以用于擴(kuò)展的PCIE X16加速卡數(shù)量有限，限制了邊緣計(jì)算的算力；

2.標(biāo)準(zhǔn)的服務(wù)器PCIE X16接口服務(wù)器中央處理器及IO擴(kuò)展PCIE控制器只有控制模式，不能作為END PORT被管理，不能用于直接連接另一個(gè)同樣是只能配置成主模式加速卡，如果要實(shí)現(xiàn)兩顆PCIE控制器的互聯(lián)，需要在加速卡或服務(wù)器上增加PCIE非透明橋，成本比較高，并且非透明橋由于和服務(wù)器或加速卡使用的是非同源時(shí)鐘，經(jīng)常會(huì)造成數(shù)據(jù)傳輸不穩(wěn)定問(wèn)題，而且非透明橋價(jià)格非常貴，增加了成本；

3.以往如果要擴(kuò)展大量的加速卡，用PCIE總線連接的方式，如果要擴(kuò)展更多的加速卡計(jì)算單元的話需要用復(fù)雜的背板結(jié)構(gòu)，PCIE總線速率非常高(2.5Gbps-16Gbps)，需要使用很多高速連接器和信號(hào)重建或信號(hào)放大芯片，價(jià)格非常貴，成本非常高。

發(fā)明內(nèi)容

本發(fā)明就是針對(duì)現(xiàn)有技術(shù)存在的上述不足，提供一種基于網(wǎng)絡(luò)互聯(lián)的AI邊緣計(jì)算一體機(jī)架構(gòu)，解決了原來(lái)基于標(biāo)準(zhǔn)服務(wù)器的成本高、擴(kuò)展的加速卡數(shù)量有限、算力有限的問(wèn)題，提高了使用的靈活性，使用一臺(tái)服務(wù)器作為AI服務(wù)器一體機(jī)控制核心的情況下，可以使擴(kuò)展的加速卡數(shù)量提高64倍，并且使單個(gè)加速卡節(jié)省高速連接器、信號(hào)增強(qiáng)芯片、PCIE非通名橋器件，單卡成本大大減少。

為實(shí)現(xiàn)上述目的，本發(fā)明提供如下技術(shù)方案：

一種基于網(wǎng)絡(luò)互聯(lián)的AI邊緣計(jì)算一體機(jī)架構(gòu)，包括AI邊緣計(jì)算控制板和加速卡擴(kuò)展底板，所述AI邊緣計(jì)算控制板和AI加速卡擴(kuò)展底板通過(guò)標(biāo)準(zhǔn)PCIE X4接口及金手指連接，所述加速卡擴(kuò)展底板通過(guò)PCIE X16及PCIE X16金手指連有AI加速卡和網(wǎng)絡(luò)交換卡。

優(yōu)選的，所述AI邊緣計(jì)算控制板集成中央處理器及所屬存儲(chǔ)卡，AI邊緣計(jì)算控制板至少板載一個(gè)1Gbps管理網(wǎng)口和一個(gè)10Gbps業(yè)務(wù)數(shù)據(jù)網(wǎng)口。

優(yōu)選的，所述AI邊緣計(jì)算控制板連接有內(nèi)存接口、SATA/SAS硬盤接口、板載網(wǎng)卡芯片、USB 2.0/3.0接口和至少一個(gè)用于連接AI加速卡擴(kuò)展底板的標(biāo)準(zhǔn)PCIE X4/X8/16擴(kuò)展接口。

優(yōu)選的，所述AI加速卡擴(kuò)展底板通過(guò)標(biāo)準(zhǔn)PCIE X4總線在底板擴(kuò)展1-2路10Gbps四通道SERDES信號(hào)，每一路10Gbps四通道SERDES信號(hào)在擴(kuò)展底板上通過(guò)PCIE X16連接器及金手指連接一張具有一個(gè)萬(wàn)兆上行網(wǎng)絡(luò)的網(wǎng)絡(luò)交換卡。

優(yōu)選的，所述網(wǎng)絡(luò)交換卡有8個(gè)1GbpsMDI接口，每個(gè)MDI接口通過(guò)AI加速卡PCIEX16連接器及金手指連接1張AI邊緣計(jì)算加速卡。

優(yōu)選的，所述AI邊緣計(jì)算加速卡通過(guò)PCIE X16及金手指引出的MDI信號(hào)連接網(wǎng)路交換卡。