[發(fā)明專利]一種基于超級(jí)計(jì)算機(jī)的全要素模型訓(xùn)練系統(tǒng)

在審

• 申請(qǐng)?zhí)枺?/td>: 202110311629.8
• 申請(qǐng)日: 2021-03-24
• 公開（公告）號(hào): CN112882696A
• 公開（公告）日: 2021-06-01
• 發(fā)明（設(shè)計(jì)）人: 孟祥飛;康波;孫華文;郭佳;李菲菲;高佑強(qiáng)
• 申請(qǐng)（專利權(quán)）人: 國(guó)家超級(jí)計(jì)算天津中心
• 主分類號(hào): G06F8/33
• 分類號(hào): G06F8/33;G06F8/34;G06F8/36;G06K9/62
• 代理公司: 北京鍾維聯(lián)合知識(shí)產(chǎn)權(quán)代理有限公司 11579
• 代理人: 丁慧玲

1.一種基于超級(jí)計(jì)算機(jī)的全要素模型訓(xùn)練系統(tǒng)，其特征在于，包括：

流程編輯器，設(shè)置于用戶終端的瀏覽器上，用于生成人工智能算法有向無環(huán)圖；

參數(shù)提取器，設(shè)置于云服務(wù)器上，所述云服務(wù)器與超級(jí)計(jì)算機(jī)和所述用戶終端通信連接，所述參數(shù)提取器用于根據(jù)預(yù)設(shè)的參數(shù)框架從所述人工智能算法有向無環(huán)圖中提取預(yù)設(shè)參數(shù)；

模型映射器，設(shè)置于所述云服務(wù)器上，用于選擇目標(biāo)深度學(xué)習(xí)框架，將所提取的預(yù)設(shè)參數(shù)映射為目標(biāo)深度學(xué)習(xí)框架對(duì)應(yīng)的映射數(shù)據(jù)和映射模型；

代碼生成器，設(shè)置于所述超級(jí)計(jì)算機(jī)上，用于將所述映射數(shù)據(jù)和映射模型動(dòng)態(tài)生成可執(zhí)行的代碼；

代碼執(zhí)行器，設(shè)置于超級(jí)計(jì)算機(jī)上，用于運(yùn)行所述可執(zhí)行的代碼，并生成運(yùn)行結(jié)果。

2.根據(jù)權(quán)利要求1所述的基于超級(jí)計(jì)算機(jī)的全要素模型訓(xùn)練系統(tǒng)，其特征在于，

所述系統(tǒng)還包括目標(biāo)深度學(xué)習(xí)框架確定模塊，用于根據(jù)超級(jí)計(jì)算機(jī)上所配置的深度學(xué)習(xí)框架以及資源使用情況，確定所述目標(biāo)深度學(xué)習(xí)框架。

3.根據(jù)權(quán)利要求1所述的基于超級(jí)計(jì)算機(jī)的全要素模型訓(xùn)練系統(tǒng)，其特征在于，

所述流程編輯器內(nèi)設(shè)置有數(shù)據(jù)層、計(jì)算圖層和訓(xùn)練層，所述流程編輯器在所述數(shù)據(jù)層設(shè)定訓(xùn)練數(shù)據(jù)的位置，在所述計(jì)算圖層設(shè)定網(wǎng)絡(luò)結(jié)構(gòu)模型的有向圖結(jié)構(gòu)，在所述訓(xùn)練層設(shè)定訓(xùn)練計(jì)算所需資源，所述訓(xùn)練計(jì)算所需資源包括節(jié)點(diǎn)數(shù)、訓(xùn)練輪次和每輪次所需數(shù)據(jù)量大小。

4.根據(jù)權(quán)利要求3所述的基于超級(jí)計(jì)算機(jī)的全要素模型訓(xùn)練系統(tǒng)，其特征在于，

所述預(yù)設(shè)的參數(shù)框架包括數(shù)據(jù)參數(shù)、模型參數(shù)和計(jì)算資源，所述參數(shù)提取器具體用于：

從所述數(shù)據(jù)層提取所述數(shù)據(jù)參數(shù)，所述數(shù)據(jù)參數(shù)包括數(shù)據(jù)源、數(shù)據(jù)格式和數(shù)據(jù)大??；

從所述計(jì)算圖層提取模型參數(shù)，所述模型參數(shù)包括圖的節(jié)點(diǎn)組成、連接關(guān)系以及所述計(jì)算圖層中每個(gè)圖節(jié)點(diǎn)對(duì)應(yīng)的參數(shù)；

從所述訓(xùn)練層中提取訓(xùn)練計(jì)算所需的計(jì)算資源。

5.根據(jù)權(quán)利要求4所述的基于超級(jí)計(jì)算機(jī)的全要素模型訓(xùn)練系統(tǒng)，其特征在于，

所述映射數(shù)據(jù)為所述數(shù)據(jù)參數(shù)解析得到的目標(biāo)深度學(xué)習(xí)框架對(duì)應(yīng)的訓(xùn)練數(shù)據(jù)，包括訓(xùn)練數(shù)據(jù)源、每訓(xùn)練批次數(shù)據(jù)大小、增廣選項(xiàng)和預(yù)處理選項(xiàng)；

所述映射模型為由所述模型參數(shù)映射等得到的目標(biāo)深度學(xué)習(xí)框架對(duì)應(yīng)的圖表形式數(shù)據(jù)，包括json表單形式和xml表格形式。

6.根據(jù)權(quán)利要求1所述的基于超級(jí)計(jì)算機(jī)的全要素模型訓(xùn)練系統(tǒng)，其特征在于，

代碼生成器具體用于預(yù)置一個(gè)轉(zhuǎn)換模板，并采用依賴庫(kù)加載、數(shù)據(jù)加載、模型加載、訓(xùn)練配置的順序?qū)⑺鲇成鋽?shù)據(jù)和映射模型依次轉(zhuǎn)換為對(duì)應(yīng)的代碼。

7.根據(jù)權(quán)利要求1所述的基于超級(jí)計(jì)算機(jī)的全要素模型訓(xùn)練系統(tǒng)，其特征在于，

所述代碼執(zhí)行器用于將所述可執(zhí)行的代碼轉(zhuǎn)換為超級(jí)計(jì)算機(jī)對(duì)應(yīng)的運(yùn)行腳本進(jìn)行運(yùn)行，生成所述運(yùn)行結(jié)果。

8.根據(jù)權(quán)利要求1-7中任意一項(xiàng)所述的基于超級(jí)計(jì)算機(jī)的全要素模型訓(xùn)練系統(tǒng)，其特征在于，

所述系統(tǒng)還包括：

結(jié)果回收器，用于從所述代碼執(zhí)行器獲取運(yùn)行結(jié)果，將所述運(yùn)行結(jié)果存儲(chǔ)至云服務(wù)器，并發(fā)送給結(jié)果查看器；

結(jié)果查看器，設(shè)置在用戶終端的瀏覽器上，用于根據(jù)預(yù)設(shè)的顯示規(guī)則顯示所述運(yùn)行生成的結(jié)果對(duì)應(yīng)的顯示參數(shù)。

9.根據(jù)權(quán)利要求8所述的基于超級(jí)計(jì)算機(jī)的全要素模型訓(xùn)練系統(tǒng)，其特征在于，

所述結(jié)果回收器將運(yùn)行結(jié)果存儲(chǔ)至網(wǎng)盤中，并掛載至所述云服務(wù)器上，再由所述云服務(wù)器發(fā)送給所述結(jié)果查看器。

10.根據(jù)權(quán)利要求8所述的基于超級(jí)計(jì)算機(jī)的全要素模型訓(xùn)練系統(tǒng)，其特征在于，

所述結(jié)果查看器用于根據(jù)預(yù)設(shè)的規(guī)則顯示關(guān)鍵參數(shù)，所述關(guān)鍵參數(shù)包括損失參數(shù)、學(xué)習(xí)率和準(zhǔn)確率。