[實用新型]在線智能能力平臺的硬件設(shè)備

有效

• 申請?zhí)枺?/td>: 201820583759.0
• 申請日: 2018-04-23
• 公開（公告）號: CN208013975U
• 公開（公告）日: 2018-10-26
• 發(fā)明（設(shè)計）人: 李宇歌
• 申請（專利權(quán)）人: 蘇州超集信息科技有限公司
• 主分類號: G06K9/00
• 分類號: G06K9/00;G06K9/62;G06F9/50
• 代理公司: 江蘇圣典律師事務(wù)所 32237
• 代理人: 王玉國

本實用新型涉及在線智能能力平臺的硬件設(shè)備，存儲服務(wù)器通過外部接入網(wǎng)絡(luò)連接以太網(wǎng)，存儲服務(wù)器、P4 GPU服務(wù)器、P100 GPU服務(wù)器和管理服務(wù)器通過計算網(wǎng)絡(luò)連接Inifiniband交換機，存儲服務(wù)器、P4 GPU服務(wù)器、P100 GPU服務(wù)器和管理服務(wù)器通過管理網(wǎng)絡(luò)連接以太網(wǎng)交換機，工作組和機房控制中心通過內(nèi)部接入網(wǎng)絡(luò)連接以太網(wǎng)交換機。可通過NVIDIA RDMA技術(shù)以及GPU Director技術(shù)，利用Infiniband網(wǎng)絡(luò)實現(xiàn)物理意義上顯存共享；大型數(shù)據(jù)計算分析時，調(diào)用多臺服務(wù)器和多GPU共同完成，需要完成多類型數(shù)據(jù)計算分析時，將多個任務(wù)分配給不同服務(wù)器，實現(xiàn)多模型訓(xùn)練的并發(fā)進(jìn)行。

技術(shù)領(lǐng)域

本實用新型涉及一種在線智能能力平臺的硬件設(shè)備。

背景技術(shù)

神經(jīng)網(wǎng)絡(luò)所能識別的模式是數(shù)值形式，因此圖像、聲音、文本、時間序列等一切現(xiàn)實世界的數(shù)據(jù)必須轉(zhuǎn)換為數(shù)值。在深度學(xué)習(xí)網(wǎng)絡(luò)中，每一個節(jié)點層在前一層輸出的基礎(chǔ)上學(xué)習(xí)識別一組特定的特征。隨著神經(jīng)網(wǎng)絡(luò)深度增加，節(jié)點所能識別的特征也就越來越復(fù)雜，因為每一層會整合并重組前一層的特征。

實用新型內(nèi)容

本實用新型的目的是克服現(xiàn)有技術(shù)存在的不足，提供一種在線智能能力平臺的硬件設(shè)備。

本實用新型的目的通過以下技術(shù)方案來實現(xiàn)：

在線智能能力平臺的硬件設(shè)備，特點是：包含存儲服務(wù)器、P4GPU服務(wù)器、P100GPU服務(wù)器、管理服務(wù)器、Inifiniband交換機以及以太網(wǎng)交換機，所述存儲服務(wù)器通過外部接入網(wǎng)絡(luò)連接以太網(wǎng)，所述存儲服務(wù)器、P4GPU服務(wù)器、P100GPU服務(wù)器和管理服務(wù)器通過計算網(wǎng)絡(luò)連接Inifiniband交換機，所述存儲服務(wù)器、P4GPU服務(wù)器、P100GPU服務(wù)器和管理服務(wù)器通過管理網(wǎng)絡(luò)連接以太網(wǎng)交換機，工作組和機房控制中心通過內(nèi)部接入網(wǎng)絡(luò)連接以太網(wǎng)交換機。

進(jìn)一步地，上述的在線智能能力平臺的硬件設(shè)備，其中，所述管理服務(wù)器為XG-22302EN服務(wù)器。

進(jìn)一步地，上述的在線智能能力平臺的硬件設(shè)備，其中，所述P4GPU服務(wù)器為PSC-HB1X 4U機塔互轉(zhuǎn)服務(wù)器。

進(jìn)一步地，上述的在線智能能力平臺的硬件設(shè)備，其中，所述P100GPU服務(wù)器為XG-48201GK服務(wù)器。

進(jìn)一步地，上述的在線智能能力平臺的硬件設(shè)備，其中，所述存儲服務(wù)器為XG-42301^ST存儲服務(wù)器。

進(jìn)一步地，上述的在線智能能力平臺的硬件設(shè)備，其中，所述Inifiniband交換機為SX6506 108端口InfiniBand交換機。

進(jìn)一步地，上述的在線智能能力平臺的硬件設(shè)備，其中，所述以太網(wǎng)交換機為24口千兆交換機。

本實用新型與現(xiàn)有技術(shù)相比具有顯著的優(yōu)點和有益效果，具體體現(xiàn)在以下方面：

該硬件設(shè)備的P4GPU服務(wù)器節(jié)點和P100GPU服務(wù)器節(jié)點，可通過NVIDIA RDMA技術(shù)以及GPU Director技術(shù)，利用Infiniband網(wǎng)絡(luò)實現(xiàn)物理意義上的顯存共享；在大型數(shù)據(jù)計算分析時，可以調(diào)用多臺服務(wù)器和多GPU共同完成任務(wù)，而當(dāng)需要完成多類型數(shù)據(jù)計算分析時，可以根據(jù)不同類型數(shù)據(jù)的特性，將多個任務(wù)分配給不同的服務(wù)器，實現(xiàn)多模型訓(xùn)練的并發(fā)進(jìn)行；訓(xùn)練流程，由工作者發(fā)起訓(xùn)練任務(wù)，到管理節(jié)點后，由管理節(jié)點請求計算資源，GPU集群接受訓(xùn)練任務(wù)后，向存儲服務(wù)器讀取訓(xùn)練數(shù)據(jù)后在本地進(jìn)行訓(xùn)練，完成后數(shù)據(jù)回傳到存儲服務(wù)器，同時將信息反饋給管理服務(wù)器節(jié)點，管理服務(wù)器節(jié)點向工作者提示訓(xùn)練任務(wù)完成。

附圖說明

圖1：本實用新型的架構(gòu)示意圖。

圖中各附圖標(biāo)記的含義見下表：

具體實施方式