[發明專利]設備處理器選擇方法、系統、終端設備及存儲介質

在審

• 申請號: 202110633567.2
• 申請日: 2021-06-07
• 公開（公告）號: CN113408718A
• 公開（公告）日: 2021-09-17
• 發明（設計）人: 陳志杰;李躍文
• 申請（專利權）人: 廈門美圖之家科技有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06N3/04
• 代理公司: 廈門仕誠聯合知識產權代理事務所(普通合伙) 35227
• 代理人: 樂珠秀

本發明提供了一種設備處理器選擇方法、系統、終端設備及存儲介質，該方法包括：根據待部署神經網絡的計算量信息確定待部署神經網絡的計算量變量值；獲取目標設備的設備信息，根據所述設備信息確定目標設備的設備變量值；根據計算量變量值和所述設備變量值，確定待部署神經網絡與目標設備之間的部署變量值，根據部署變量值對目標設備中的處理器進行選擇。本發明基于待部署神經網絡的計算量的復雜程度和目標設備的設備性能，不同處理器之間處理待部署神經網絡的性能差距，基于不同處理器之間的性能差距，能自動對目標設備上的處理器進行選擇，無需采用人工測試的方式進行處理器的選擇，提高了設備處理器選擇的準確性和效率性。

技術領域

本發明屬于電子通信領域，尤其涉及一種設備處理器選擇方法、系統、終端設備及存儲介質。

背景技術

隨著時代的發展和科技的進步，處理器的功能也越來越強大，在終端設備上可以通過部署多個處理器，以達到提供處理器性能的效果，例如，在移動端手機上就部署有中央處理器(CPU)和圖形處理器(GPU)，CPU和GPU的分工不相同，CPU擅長邏輯控制，GPU擅長并行運算，現在很多深度學習的推理都放到GPU上進行運算。但是由于神經網絡中計算量等因素的影響，使得在GPU上進行神經網絡的推理并不一定是比CPU快，因此，針對神經網絡的推理過程，設備處理器選擇的問題越來越受人們所重視。

現在設備處理器的選擇，均是通過人工測試的方式進行設備處理器選擇，即，通過人工測試神經網絡在同一設備的不同處理器上的運行時間，基于測試到的運行時間對設備上的處理器進行選擇，但由于采用人工測試的方式進行設備處理器選擇，導致設備處理器選擇的耗時較長，降低了設備處理器選擇的效率。

發明內容

本發明實施例的目的在于提供一種設備處理器選擇方法、系統、終端設備及存儲介質，旨在解決現有的設備處理器選擇過程中，由于采用人工測試的方式進行設備處理器的選擇，所導致的設備處理器選擇效率低下的問題。

本發明實施例是這樣實現的，一種設備處理器選擇方法，所述方法包括：

獲取待部署神經網絡的計算量信息，并根據所述計算量信息確定所述待部署神經網絡的計算量變量值，所述計算量信息包括所述待部署神經網絡的總計算量和卷積計算量，所述計算量變量值用于表征所述待部署神經網絡計算量的復雜程度；

獲取目標設備的設備信息，并根據所述設備信息確定所述目標設備的設備變量值，所述設備信息包括設備運行速度和內存值，所述設備變量值用于表征所述目標設備的設備性能；

根據所述計算量變量值和所述設備變量值，確定所述待部署神經網絡與所述目標設備之間的部署變量值，并根據所述部署變量值對所述目標設備中的處理器進行選擇，所述部署變量值用于表征所述待部署神經網絡部署在所述目標設備上時，不同處理器之間處理所述待部署神經網絡的性能差距。

更進一步的，所述根據所述計算量信息確定所述待部署神經網絡的計算量變量值，包括：

確定樣本神經網絡中的最大總計算量和最小總計算量，并計算所述最大總計算量與所述最小總計算量之間的差值，得到計算量差值；

計算所述待部署神經網絡的總計算量與所述計算量差值之間的商值，得到第一計算量變量值；

計算所述待部署神經網絡中，3x3卷積的卷積計算量與總計算量之間的商值，得到第二計算量變量值；

計算所述待部署神經網絡中，1x1卷積的卷積計算量與總計算量之間的商值，得到第三計算量變量值；

所述計算量變量值包括所述第一計算量變量值、所述第二計算量變量值和所述第三計算量變量值。

更進一步的，所述根據所述設備信息確定所述目標設備的設備變量值，包括：

確定樣本設備中的最大內存值和最小內存值，并計算所述最大內存值與所述最小內存值之間的差值，得到內存差值；