[發明專利]算力的計算方法、裝置、終端設備和存儲介質

在審

• 申請號: 202111281679.2
• 申請日: 2021-11-01
• 公開（公告）號: CN114239844A
• 公開（公告）日: 2022-03-25
• 發明（設計）人: 黃茗;楊軍;王濱;錢寶生;原鑫
• 申請（專利權）人: 中國電子科技集團公司第十五研究所
• 主分類號: G06N20/00
• 分類號: G06N20/00;G06K9/62;G06N3/04;G06N3/08
• 代理公司: 北京秉文同創知識產權代理事務所(普通合伙) 11859
• 代理人: 趙星;陳少麗

1.一種算力的計算方法，其特征在于，所述方法包括：

獲取待預測算力的用戶任務，其中，所述用戶任務至少包括目標任務類型和目標任務量；

根據預先建立的預訓練模型，對與所述目標任務類型的用戶任務進行模型推理，確定執行所述用戶任務所需要的與所述目標任務量對應的算力信息，其中，所述預先建立的預訓練模型至少包括多個不同任務類型的目標神經網絡模型，所述目標神經網絡模型是預設神經網絡處理器經過轉換得到的，其中，所述預設神經網絡處理器包括NPU加速卡或CPU與NPU加速卡的組合。

2.根據權利要求1所述的方法，其特征在于，所述預先建立的預訓練模型通過如下方式得到：

獲取不同任務類型對應的訓練樣本集，其中，所述不同任務類型至少包括：圖像分類任務、物體識別任務、推薦任務、語音識別任務、文本識別任務或強化學習任務；

采用不同的訓練樣本集對不同的神經網絡模型進行訓練，得到不同的初始神經網絡模型；

根據不同類型的預設神經網絡處理器，對所述初始神經網絡模型進行轉換，確定與所述預設神經網絡處理器相對應的預訓練模型。

3.根據權利要求2所述的方法，其特征在于，所述獲取不同任務類型對應的訓練樣本集，包括：

通過ImageNet數據庫、COCO數據庫或Wikipedia數據庫，獲取不同任務類型對應的訓練樣本集。

4.根據權利要求2所述的方法，其特征在于，所述采用不同的訓練樣本集對不同的神經網絡模型進行訓練，得到不同的初始神經網絡模型，包括：

根據圖像分類樣本集對VGG19模型進行訓練，得到初始圖像分類神經網絡模型；

根據物體識別樣本集對yolov3模塊進行訓練，得到初始物體識別神經網絡模型；

根據推薦任務樣本集對DLRM模型進行訓練，得到初始推薦任務神經網絡模型；

根據語音識別樣本集對RNN-T模型進行訓練，得到初始語音識別神經網絡模型；

根據文本識別樣本集對BERT模型進行訓練，得到初始文本識別神經網絡模型；

根據強化學習樣本集對MINIGO模型進行訓練，得到初始強化學習神經網絡模型。

5.根據權利要求4所述的方法，其特征在于，所述根據不同類型的預設神經網絡處理器，對所述初始神經網絡模型進行轉換，確定與所述預設神經網絡處理器相對應的預訓練模型，包括：

獲取深度學習樣本集；

采用深度學習框架建立網絡架構，其中，所述深度學習框架至少包括tensorflow、pytorch中的一種；

根據所述深度學習樣本集，對所述不同類型的預設神經網絡處理器對應的初始神經網絡模型進行訓練，得到訓練結果；

若所述訓練結果滿足預設條件，則將與不同類型的預設神經網絡處理器對應的初始神經網絡模型，確定為所述預訓練模型。

6.一種算力的計算裝置，其特征在于，所述裝置包括：

獲取模塊，用于獲取待預測算力的用戶任務，其中，所述用戶任務至少包括目標任務類型和目標任務量；

計算模塊，用于根據預先建立的預訓練模型，對與所述目標任務類型的用戶任務進行模型推理，確定執行所述用戶任務所需要的與所述目標任務量對應的算力信息，其中，所述預先建立的預訓練模型至少包括多個不同任務類型的目標神經網絡模型，所述目標神經網絡模型是預設神經網絡處理器經過轉換得到的，其中，所述預設神經網絡處理器包括NPU加速卡或CPU與NPU加速卡的組合。

7.根據權利要求6所述的裝置，其特征在于，所述裝置還包括訓練模塊，所述訓練模塊用于：

獲取不同任務類型對應的訓練樣本集，其中，所述不同任務類型至少包括：圖像分類任務、物體識別任務、推薦任務、語音識別任務、文本識別任務或強化學習任務；

采用不同的訓練樣本集對不同的神經網絡模型進行訓練，得到不同的初始神經網絡模型；

根據不同類型的預設神經網絡處理器，對所述初始神經網絡模型進行轉換，確定與所述預設神經網絡處理器相對應的預訓練模型。