[發明專利]基于混合神經網絡的分布式系統構建方法、設備及介質

在審

• 申請號: 202210418864.X
• 申請日: 2022-04-20
• 公開（公告）號: CN114860429A
• 公開（公告）日: 2022-08-05
• 發明（設計）人: 范平清;鄧暢;馬西沛;李森
• 申請（專利權）人: 上海工程技術大學
• 主分類號: G06F9/50
• 分類號: G06F9/50;G06F21/62;G06V10/764;G06V10/82;G06K9/62;G06N3/04;G06N3/08;G06N5/04
• 代理公司: 上海科盛知識產權代理有限公司 31225
• 代理人: 趙志遠

1.一種基于混合神經網絡的分布式系統構建方法，其特征在于，該方法在終端設備上部署經過壓縮優化后的深度神經網絡，在云服務器設備上部署原始的深度神經網絡，若所述終端設備上壓縮優化后的深度神經網絡輸出檢測結果滿足置信度的標準即可直接輸出結果；若終端設備結果不能滿足要求，則所述終端設備將處理后的初始特征樣本傳至云服務器，由所述運服務器的原始深度神經網絡進一步處理后輸出結果。

2.根據權利要求1所述的一種基于混合神經網絡的分布式系統構建方法，其特征在于，該方法具體包括以下步驟：

步驟1)對訓練好的深度神經網絡進行網絡模型壓縮和權重調整的簡化處理；

步驟2)在資源受限的終端設備中部署采用壓縮優化的深度神經網絡；

步驟3)在資源豐富的云服務器中部署原始的深度神經網絡；

步驟4)在終端設備的本地深度神經網絡上設置出口點；

步驟5)所述終端設備首先向本地壓縮優化的深度神經網絡發送采樣數據并進行快速推理運算；

步驟6)所述終端設備確定本地深度神經網絡的推理結果基于置信度的標準是否能夠做出準確的分類；

步驟7)如果是，則對樣本進行分類，并直接在終端設備上完成處理；

步驟8)如果不是，則終端設備將中間計算結果通過出口點推向云服務器，以便進行進一步的分類處理，

步驟9)所述云服務器基于終端的推送信息在高精度深度神經網絡上進行最終分類決策。

3.根據權利要求1所述的一種基于混合神經網絡的分布式系統構建方法，其特征在于，該方法的分布式系統通過分布式計算，增強了傳感器融合、數據隱私和系統容錯能力。

4.根據權利要求1所述的一種基于混合神經網絡的分布式系統構建方法，其特征在于，該方法不僅可擴大神經網絡的規模，還以在設備跨度上擴展。

5.根據權利要求1所述的一種基于混合神經網絡的分布式系統構建方法，其特征在于，該方法將早期的出口點放置在終端設備中，當系統表現可信時，深度神經網絡的推理執行可在本地終端設備上就完成圖像分類并退出，進行快速的局部推斷。

6.根據權利要求1或5所述的一種基于混合神經網絡的分布式系統構建方法，其特征在于，該方法通過使用基于熵的確定標準，在神經網絡的早期點對樣本進行分類，稱為早期出口點，如果在一個早期出口點，根據目標類的計算概率向量的熵，認為樣本已經被可信分類。

7.根據權利要求6所述的一種基于混合神經網絡的分布式系統構建方法，其特征在于，該方法混合神經網絡的推斷在按物理設備劃分的階段中使用預測出口閾值T作為對樣本預測的置信度的度量，其中定義T的方法之一是在驗證集上搜索T的范圍，使用歸一化熵的閾值作為置信條件，來決定是否在某一特定的出口點完成對樣本進行分類，其中歸一化熵被定義為

其中C是所有可能的標簽的集合，x是一個概率向量，這個歸一化熵的值在0和1之間。

8.根據權利要求7所述的一種基于混合神經網絡的分布式系統構建方法，其特征在于，該方法在給定的終端設備出口點上，如果預測結果是不可信的，即：ηT，則系統會進一步進入云服務器執行分類操作。

9.一種電子設備，包括存儲器和處理器，所述存儲器上存儲有計算機程序，其特征在于，所述處理器執行所述程序時實現如權利要求1～8中任一項所述的方法。

10.一種計算機可讀存儲介質，其上存儲有計算機程序，其特征在于，所述程序被處理器執行時實現如權利要求1～8中任一項所述的方法。