[發(fā)明專利]一種深度學(xué)習(xí)網(wǎng)絡(luò)訓(xùn)練系統(tǒng)及方法

有效

• 申請?zhí)枺?/td>: 201811256456.9
• 申請日: 2018-10-26
• 公開（公告）號: CN111105006B
• 公開（公告）日: 2023-08-04
• 發(fā)明（設(shè)計(jì)）人: 彭阿婷
• 申請（專利權(quán)）人: 杭州海康威視數(shù)字技術(shù)股份有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/063
• 代理公司: 北京柏杉松知識產(chǎn)權(quán)代理事務(wù)所(普通合伙) 11413
• 代理人: 丁蕓;項(xiàng)京

本申請實(shí)施例提供了一種深度學(xué)習(xí)網(wǎng)絡(luò)訓(xùn)練系統(tǒng)及方法，系統(tǒng)包括：客戶端、交換機(jī)、存儲服務(wù)器集群及訓(xùn)練服務(wù)器集群；客戶端獲取用戶輸入的訓(xùn)練請求，并將訓(xùn)練請求發(fā)送至交換機(jī)；交換機(jī)根據(jù)訓(xùn)練請求中的硬件資源請求，從訓(xùn)練服務(wù)器集群中選擇多個(gè)總硬件資源滿足硬件資源請求的第一訓(xùn)練服務(wù)器，發(fā)送訓(xùn)練任務(wù)信息至各第一訓(xùn)練服務(wù)器；存儲服務(wù)器集群包括多個(gè)用于存儲訓(xùn)練資源的存儲服務(wù)器；訓(xùn)練服務(wù)器集群，包括多個(gè)訓(xùn)練服務(wù)器；各第一訓(xùn)練服務(wù)器根據(jù)訓(xùn)練任務(wù)信息，從存儲服務(wù)器集群中讀取訓(xùn)練資源；將訓(xùn)練資源分配至各自的容器中，以使各第一訓(xùn)練服務(wù)器的容器之間進(jìn)行深度學(xué)習(xí)網(wǎng)絡(luò)并行訓(xùn)練。通過本方案，可以實(shí)現(xiàn)深度學(xué)習(xí)網(wǎng)絡(luò)的快速訓(xùn)練。

技術(shù)領(lǐng)域

本申請涉及機(jī)器學(xué)習(xí)技術(shù)領(lǐng)域，特別是涉及一種深度學(xué)習(xí)網(wǎng)絡(luò)訓(xùn)練系統(tǒng)及方法。

背景技術(shù)

深度學(xué)習(xí)，具體來說是一種含多隱層的機(jī)器學(xué)習(xí)結(jié)構(gòu)。深度學(xué)習(xí)網(wǎng)絡(luò)，通過模仿人腦的機(jī)制來解析數(shù)據(jù)，是一種通過建立和模擬人腦進(jìn)行分析學(xué)習(xí)的智能模型。深度學(xué)習(xí)網(wǎng)絡(luò)在計(jì)算機(jī)視覺、語音識別、機(jī)器人控制等領(lǐng)域已經(jīng)取得了巨大成功，通過多個(gè)網(wǎng)絡(luò)層的逐層運(yùn)算，可以提取出目標(biāo)的特征信息，從而實(shí)現(xiàn)智能跟蹤、智能檢索等功能，因此，深度學(xué)習(xí)網(wǎng)絡(luò)逐漸成為了現(xiàn)代人工智能的基石。

深度學(xué)習(xí)網(wǎng)絡(luò)主要是通過訓(xùn)練服務(wù)器預(yù)先搜集大量的訓(xùn)練樣本，在搭建深度學(xué)習(xí)網(wǎng)絡(luò)初始模型后，基于訓(xùn)練樣本，對深度學(xué)習(xí)網(wǎng)絡(luò)進(jìn)行訓(xùn)練得到目標(biāo)深度學(xué)習(xí)網(wǎng)絡(luò)。

然而，深度學(xué)習(xí)網(wǎng)絡(luò)的結(jié)構(gòu)越來越復(fù)雜，并且為了保證深度學(xué)習(xí)網(wǎng)絡(luò)的準(zhǔn)確性，搜集的訓(xùn)練樣本數(shù)量越來越多。這樣，在進(jìn)行上述訓(xùn)練時(shí)，所有的訓(xùn)練樣本串行地參與深度學(xué)習(xí)網(wǎng)絡(luò)訓(xùn)練，使得深度學(xué)習(xí)網(wǎng)絡(luò)的訓(xùn)練速度過慢。

發(fā)明內(nèi)容

本申請實(shí)施例的目的在于提供一種深度學(xué)習(xí)網(wǎng)絡(luò)訓(xùn)練系統(tǒng)及方法，以實(shí)現(xiàn)深度學(xué)習(xí)網(wǎng)絡(luò)的快速訓(xùn)練。具體技術(shù)方案如下：

第一方面，本申請實(shí)施例提供了一種深度學(xué)習(xí)網(wǎng)絡(luò)訓(xùn)練系統(tǒng)，所述系統(tǒng)包括：客戶端、交換機(jī)、存儲服務(wù)器集群及訓(xùn)練服務(wù)器集群；

所述客戶端，用于獲取用戶輸入的訓(xùn)練請求，并將所述訓(xùn)練請求發(fā)送至所述交換機(jī)，所述訓(xùn)練請求包括硬件資源請求以及訓(xùn)練任務(wù)信息；

所述交換機(jī)，用于根據(jù)所述硬件資源請求，從所述訓(xùn)練服務(wù)器集群中選擇多個(gè)第一訓(xùn)練服務(wù)器，所述多個(gè)第一訓(xùn)練服務(wù)器的總硬件資源滿足所述硬件資源請求；發(fā)送所述訓(xùn)練任務(wù)信息至各第一訓(xùn)練服務(wù)器；

所述存儲服務(wù)器集群，包括多個(gè)存儲服務(wù)器；各存儲服務(wù)器，用于存儲訓(xùn)練資源；

所述訓(xùn)練服務(wù)器集群，包括多個(gè)訓(xùn)練服務(wù)器；所述各第一訓(xùn)練服務(wù)器，用于根據(jù)所述訓(xùn)練任務(wù)信息，從所述存儲服務(wù)器集群中讀取訓(xùn)練資源；將所述訓(xùn)練資源分配至各自的容器中，以使各第一訓(xùn)練服務(wù)器的容器之間進(jìn)行深度學(xué)習(xí)網(wǎng)絡(luò)并行訓(xùn)練，所述各第一訓(xùn)練服務(wù)器的容器具有針對所述訓(xùn)練任務(wù)信息的相同的深度學(xué)習(xí)網(wǎng)絡(luò)初始模型，并安裝有相同的訓(xùn)練腳本運(yùn)行環(huán)境。

可選的，所述客戶端，還用于提供操作系統(tǒng)windows共享存儲服務(wù)，以使用戶通過windows進(jìn)行數(shù)據(jù)操作。

可選的，所述客戶端、所述交換機(jī)、所述存儲服務(wù)器集群與所述訓(xùn)練服務(wù)器集群之間，所述存儲服務(wù)器集群中的各存儲服務(wù)器之間，以及，所述訓(xùn)練服務(wù)器集群中的各訓(xùn)練服務(wù)器之間，均采用萬兆網(wǎng)絡(luò)互連。

可選的，所述訓(xùn)練服務(wù)器集群通過掛載方式，將所述存儲服務(wù)器集群中的所有存儲服務(wù)器均掛載至各訓(xùn)練服務(wù)器上。

可選的，所述各第一訓(xùn)練服務(wù)器，采用遠(yuǎn)程直接數(shù)據(jù)存取RDMA方式，從所述存儲服務(wù)器集群中讀取訓(xùn)練資源。

可選的，所述多個(gè)第一訓(xùn)練服務(wù)器中的任一訓(xùn)練服務(wù)器根據(jù)所述訓(xùn)練任務(wù)信息，創(chuàng)建安裝有指定訓(xùn)練腳本運(yùn)行環(huán)境的容器，并根據(jù)所述訓(xùn)練任務(wù)信息，在所述容器中搭建深度學(xué)習(xí)網(wǎng)絡(luò)初始模型；將所述容器鏡像至所述多個(gè)第一訓(xùn)練服務(wù)器中的其他訓(xùn)練服務(wù)器。