[發明專利]一種數據處理的方法、系統、設備及可讀存儲介質

有效

• 申請號: 202010851607.6
• 申請日: 2020-08-21
• 公開（公告）號: CN111984414B
• 公開（公告）日: 2022-05-24
• 發明（設計）人: 仝培霖;闞宏偉;朱克峰
• 申請（專利權）人: 蘇州浪潮智能科技有限公司
• 主分類號: G06F9/50
• 分類號: G06F9/50;G06N3/04
• 代理公司: 北京集佳知識產權代理有限公司 11227
• 代理人: 王曉坤

本申請公開了一種數據處理的方法，包括：獲取預設數據處理模型、待處理數據及數據處理設備的設備數量；依據設備數量將預設數據處理模型按照通道拆分為對應數目的數據處理子模型，并令數據處理子模型分別在數據處理設備上運行；將待處理數據分別輸入到每個數據處理子模型中，并令每個數據處理子模型對待處理數據進行處理；根據每個數據處理子模型得到的處理結果確定最終數據處理結果。本申請實現了對人工智能應用高度并行的拆分，減少了模型的參數量、計算量以及模型運行中的時延，極大的提高了人工智能應用處理數據的速度。本申請同時還提供了一種數據處理的系統、設備及可讀存儲介質，具有上述有益效果。

技術領域

本申請涉及數據處理領域，特別涉及一種數據處理的方法、系統、設備及可讀存儲介質。

背景技術

隨著人工智能理論和相關技術的日漸成熟，在各種場景下的人工智能應用也越來越多的出現在大眾的視野中。日常生活中的圖片、視頻處理、人臉識別、語音識別和自動駕駛等場景常應用人工智能技術。但是目前人工智能計算需要大量的浮點運算、內存和電量開銷，使得目前人工智能算法的運行存在著成本高昂、速度慢和并行處理效率低下的問題。

目前的人工智能應用大多在單機中運行，但是單機計算能力往往無法實現實時處理，因此需要多機的計算能力同時處理數據，實際運行的效果會更好。對此有研究人員提出了串行拆分，假設有N個相同的設備，將人工智能模型中各層按照運行的先后順序，根據各層所需算力，將模型的整體算力平均分配到N個設備上，然后在N個設備上按照模型架構依次運行，實現模型的串行拆分。

雖然串行拆分技術易實現，但是此種拆分算法無法對單個任務處理的延時進行縮減，吞吐量一般也不會有更好的提高，導致此種拆分方法對實際應用的提升效果并不明顯。

因此，如何提高人工智能應用處理數據的速度是本領域技術人員目前需要解決的技術問題。

發明內容

本申請的目的是提供一種數據處理的方法、系統、設備及可讀存儲介質，用于提高人工智能應用處理數據的速度。

為解決上述技術問題，本申請提供一種數據處理的方法，該方法包括：

獲取預設數據處理模型、待處理數據及數據處理設備的設備數量；

依據所述設備數量將所述預設數據處理模型按照通道拆分為對應數目的數據處理子模型，并令所述數據處理子模型分別在所述數據處理設備上運行；

將所述待處理數據分別輸入到每個所述數據處理子模型中，并令每個所述數據處理子模型對所述待處理數據進行處理；

根據每個所述數據處理子模型得到的處理結果確定最終數據處理結果。

可選的，依據所述設備數量將所述預設數據處理模型按照通道拆分為對應數目的數據處理子模型，包括：

依據所述設備數量將所述預設數據處理模型每一層的輸入通道和輸出通道分別進行拆分，得到所述數據處理子模型。

可選的，將所述待處理數據分別輸入到每個所述數據處理子模型中，包括：

依據所述設備數量對所述待處理數據進行隨機選擇，得到對應數目的待處理數據子集；

將每個所述待處理數據子集分別輸入至每個所述數據處理子模型中。

可選的，將所述待處理數據參數分別輸入到每個所述數據處理子模型中，包括：

按照預設順序對所述待處理數據進行排序，并依據所述設備數量將排序后的待處理數據劃分為對應數目的待處理數據子集；

將每個所述待處理數據子集分別輸入至每個所述數據處理子模型中。

可選的，令每個所述數據處理子模型對所述待處理數據進行處理，包括：