[發(fā)明專利]配置方法、裝置、系統(tǒng)、電子設備以及存儲介質

有效

• 申請?zhí)枺?/td>: 202010613892.8
• 申請日: 2020-06-30
• 公開（公告）號: CN111783952B
• 公開（公告）日: 2023-07-14
• 發(fā)明（設計）人: 劉杰;陳曉宇;吳拓邦;施恩;謝永康
• 申請（專利權）人: 北京百度網訊科技有限公司
• 主分類號: G06N3/10
• 分類號: G06N3/10;G06N3/0464;G06N5/04;G06F21/60;G06V10/70;G06V10/82;G06V10/94
• 代理公司: 北京柏杉松知識產權代理事務所(普通合伙) 11413
• 代理人: 馬敬;項京

本申請實施例公開了配置方法、裝置、系統(tǒng)、電子設備和存儲介質，涉及人工智能、深度學習技術領域。具體實現方案為：獲取目標模型和目標模型的目標模型配置信息，其中，目標模型配置信息包括硬件列表；根據硬件列表中的多個硬件，對目標模型的進行多條計算路徑搜索；其中，計算路徑包括基于目標模型拆分的多個計算任務以及運行各個計算任務的硬件；根據多條計算路徑的計算速度，確定目標模型的目標計算路徑，以基于目標計算路徑得到目標優(yōu)化模型。本申請實施例大幅降低用戶部署模型的時間成本和使用門檻。

技術領域

本申請涉及人工智能技術領域，尤其涉深度學習技術領域。

背景技術

深度學習推理技術是對深度學習模型的前向計算過程，通常用于訓練階段的模型評估和實際部署階段的快速推理。由于存在多種形態(tài)的異構計算設備，使得深度學習模型的部署復雜度提高。

發(fā)明內容

本申請?zhí)峁┝艘环N配置方法、裝置、設備以及存儲介質。

根據本申請的一方面，提供了一種配置方法，包括：

獲取目標模型和目標模型的目標模型配置信息，其中，目標模型配置信息包括硬件列表；

根據硬件列表中的多個硬件，對目標模型的進行多條計算路徑搜索；其中，計算路徑包括基于目標模型拆分的多個計算任務以及運行各個計算任務的硬件；

根據多條計算路徑的計算速度，確定目標模型的目標計算路徑，以基于目標計算路徑得到目標優(yōu)化模型。

根據本申請的另一方面，提供了一種配置裝置，包括：

配置信息獲取模塊，用于獲取目標模型和目標模型的目標模型配置信息，其中，目標模型配置信息包括硬件列表；

計算路徑搜索模塊，用于根據硬件列表中的多個硬件，對目標模型的進行多條計算路徑搜索；其中，計算路徑包括基于目標模型拆分的多個計算任務以及運行各個計算任務的硬件；

目標計算路徑確定模塊，用于根據多條計算路徑的計算速度，確定目標模型的目標計算路徑，以基于目標計算路徑得到目標優(yōu)化模型。

根據本申請的另一方面，提供了一種數據處理系統(tǒng)，包括：

接口裝置，用于接收目標模型和目標模型的目標模型配置信息，其中，目標模型配置信息包括硬件列表；

預處理裝置，用于獲取目標輸入數據；

調度裝置，用于根據目標模型和硬件列表，確定目標優(yōu)化模型，調度裝置采用本申請?zhí)峁┑囊环N調度裝置；

計算裝置，用于根據目標優(yōu)化模型對目標輸入數據的計算，得到計算結果。

根據本申請的技術大幅降低用戶部署模型的時間成本和使用門檻。

應當理解，本部分所描述的內容并非旨在標識本申請的實施例的關鍵或重要特征，也不用于限制本申請的范圍。本申請的其它特征將通過以下的說明書而變得容易理解。

附圖說明

附圖用于更好地理解本方案，不構成對本申請的限定。其中：

圖1是根據本申請實施例的配置方法的流程圖一；

圖2是根據本申請實施例的配置方法的流程圖二；

圖3是根據本申請實施例的配置裝置的結構圖；

圖4是根據本申請實施例的系統(tǒng)的結構圖；

圖5是根據本申請實施例的推理框架的示例圖一；

圖6是根據本申請實施例的推理框架的示例圖二；

圖7是根據本申請實施例的推理框架的示例圖三；