[發明專利]一種面向圖像處理的卷積神經網絡垂直分割方法

有效

• 申請號: 202110037236.2
• 申請日: 2021-01-12
• 公開（公告）號: CN112363844B
• 公開（公告）日: 2021-04-09
• 發明（設計）人: 張北北;向甜;朱世強;顧建軍;張鴻軒;李特
• 申請（專利權）人: 之江實驗室
• 主分類號: G06F9/50
• 分類號: G06F9/50;G06T7/10;G06N3/04
• 代理公司: 杭州求是專利事務所有限公司 33200
• 代理人: 邱啟旺

本發明公開了一種面向圖像處理的卷積神經網絡垂直分割方法，屬于深度學習以及分布式計算領域。該方法首先將連續卷積層最后一層的輸入特征圖分割為連續的子特征圖，再根據子特征圖，并依據卷積計算操作，反向逐層計算上一層對應的子特征圖，直至第一層，參考第一層的子特征圖，對第一層的輸入特征圖進行分割，將第一層分割后的子特征圖分配給多個計算節點。最后，依據單鏈路連續卷積層的參數和超參數，實施無精度損失的分布式協同推理，并在所有推理結果生成后進行推理結果的匯總，生成最終的輸出特征圖。相比于過往方法，本發明的方法具有大幅度降低卷積神經網絡推理時延并且沒有精度損失的特點。

技術領域

本發明涉及深度學習以及分布式計算領域，具體涉及一種面向圖像處理的卷積神經網絡垂直分割方法。

背景技術

隨著計算機硬件的發展，應用數據量的激增，深度學習模型的能力得以逐漸釋放。深度學習模型處理數據后所取得的結果準確性高，因此它被廣泛應用于各類數據處理程序中。在這些數據處理程序中值得一提的是圖像處理程序。其中所采用的卷積神經網絡，大幅度地提高了圖像處理的準確度，使得高精度的影像識別、視頻分析等程序成為可能。但卷積神經網絡當中的卷積層所需要的卷積運算需要大量的算力，在一些資源受限的計算節點中，卷積層推理成為整個推理過程的瓶頸。

鑒于此，現有技術考慮采用分布式計算的模型，并行地處理卷積層的輸入特征圖。目前流行的技術主要采用通道分割和空間分割兩種方式。通道分割把每一個卷積層的輸入特征圖的通道分割為多個子通道，對每個子通道進行卷積運算。空間分割把每一個卷積層的輸入特征圖在二維平面上分割為多個子特征圖，并對每個子特征圖進行卷積運算。

然而現有技術存在如下問題：

1.當前通道分割方法在對每個子通道進行卷積運算后，存在一個結果拼接過程，拼接后的結果再作為下一個卷積層的輸入特征圖，該方法存在大量的數據傳輸冗余，且結果的多次拼接過程造成了不必要的計算開銷。

2.現有空間分割方法沒有充分考慮輸入特征圖填充過程，存在精度損失，造成模型推理結果不準確。

3.現有空間分割方法沒有正確考慮卷積運算的反向推導過程，導致單鏈路上的連續卷積層的子特征圖對應關系不準確，存在精度損失，造成模型推理結果不準確。

發明內容

本發明的目的在于針對現有技術的不足，提供了一種面向圖像處理的卷積神經網絡垂直分割方法，該方法對于資源受限的計算節點，提供一種分布式并行處理連續卷積層的方法；通過考慮輸入特征圖填充過程，準確計算卷積運算的反向推導，提供一種無精度損失的并行處理方法；取消特征圖分割處理后的結果融合過程，減少數據傳輸冗余和結果拼接開銷的并行處理方法。

本發明的目的是通過以下技術方案來實現的：一種面向圖像處理的卷積神經網絡垂直分割方法，包括以下步驟：

（1）對于圖像處理中的卷積神經網絡上的連續卷積層，領導者節點獲取每一個卷積層的參數和超參數、卷積層之間的池化層的超參數、卷積層之間的批標準化層和線性整流函數層的超參數，所述領導者節點將上述參數和超參數以多播通信形式分發給計算節點；

（2）獲取連續卷積層中的最后一層卷積層的輸入特征圖，并將其分割為連續的子特征圖，并為所有子特征圖標注坐標；

（3）根據每個子特征圖的坐標和每個卷積層或池化層的超參數，反推上一層對應的子特征圖的坐標，直至獲得第一個卷積層的子特征圖的坐標；

（4）依據步驟（3）獲得的第一個卷積層的子特征圖的坐標，對第一層的輸入特征圖進行分割，并將分割后的第一層的子特征圖分配給步驟（1）中的計算節點；

（5）每個計算節點根據連續的卷積層、卷積層之間的池化層、卷積層之間的批標準化層和線性整流函數層的參數和超參數，對分配給該計算節點的子特征圖，進行無精度損失的推理；