[發明專利]用于優化后的深度網絡處理的圖形匹配

在審

• 申請號: 201880027542.4
• 申請日: 2018-04-27
• 公開（公告）號: CN110574045A
• 公開（公告）日: 2019-12-13
• 發明（設計）人: 毛里西奧·布萊特尼特斯;馬揚克·達加
• 申請（專利權）人: 超威半導體公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/063;G06N5/02;G06F8/41;G06F1/3234
• 代理公司: 31263 上海勝康律師事務所
• 代理人: 李獻忠;張靜

公開了用于經由機器學習獲得增強的分辨率視頻和安全性的系統、設備和方法。一種系統被配置為接收神經網絡的源代碼表示。在一個實施方案中，所述源代碼表示是有向無環圖(DAG)。所述系統確定所述源代碼表示是否包括一個或多個圖案中的任一者，其中每個圖案包括兩個或更多個相鄰層。所述系統還針對每個圖案識別用來替換檢測到的圖案的組合層。如果在所述源代碼表示中檢測到所述一個或多個圖案的任何出現，則所述系統用對應的組合層替換每個圖案。另外，所述系統生成所述神經網絡的優化后的表示，其中所述優化后的表示包括對任何檢測到的圖案的替換。所述優化后的表示可以用來生成所述神經網絡的可執行版本。

背景技術

相關技術的描述

神經網絡用于增加應用的數目和類型。例如，神經網絡已經用于圖案辨識和分類領域。神經網絡可以包括各自具有相應字段并且共同平鋪顯示輸入空間的神經元的集合。在多層神經網絡中，第一層神經元(或計算單元)的輸出變成第二層神經元的輸入，第二層神經元的輸出變成第三層神經元的輸入，等等。可以訓練神經網絡來辨識特征層次。因此，神經網絡已經越來越多地用于對象辨識和其他應用。

在神經網絡中，計算可以分布在大量處理節點中，所述處理節點可以一條或多條計算鏈配置。這些多層架構可以一次訓練一層并且可以使用反向傳播進行微調。神經網絡可以在包括并行處理架構的各種類型的計算裝置上實現。并行處理架構允許更高效地實現神經網絡。然而，盡管處理硬件最近得到改進，但神經網絡實現方式仍具有長處理時間、高功率消耗和其他低效性。

附圖說明

通過結合附圖參考以下描述可以更好地理解本文中描述的方法和機構的優點，附圖中：

圖1是用于實現神經網絡的計算系統的一個實施方案的框圖。

圖2是優化有向無環圖(DAG)的一部分的一個實施方案的框圖。

圖3是用于優化神經網絡有向無環圖(DAG)的系統的一個實施方案的框圖。

圖4是組合操作的一個實施方案的圖。

圖5是示出用于組合神經網絡的層的方法的一個實施方案的一般化流程圖。

圖6是示出用于優化神經網絡的方法的另一實施方案的一般化流程圖。

圖7是示出用于確定是否替換神經網絡的表示中的檢測到的圖案的方法的一個實施方案的一般化流程圖。

具體實施方式

在以下描述中，闡述眾多具體細節以提供對本文中呈現的方法和機構的透徹理解。然而，本領域技術人員應認識到，可以在沒有這些具體細節的情況下實踐各種實施方案。在一些情況下，未詳細示出眾所周知的結構、部件、信號、計算機程序指令和技術以避免使本文中描述的方法模糊不清。應了解，為了簡單和清楚地進行說明，圖中所示的元件不一定按比例繪制。例如，元件中的一些的尺寸相對于其他元件可能被夸大。

本文中公開了用于優化神經網絡的源代碼表示的系統、設備和方法。在一個實施方案中，一種系統至少包括聯接到存儲器的處理器。在一個實施方案中，所述系統被配置為接收神經網絡的源代碼表示。在一個實施方案中，所述源代碼表示是有向無環圖(DAG)。如果所述系統確定所述源代碼表示中的兩個或更多個相鄰層與第一圖案匹配，則所述系統用單個組合層替換所述源代碼表示中的所述兩個或更多個相鄰層。另外，所述系統生成所述神經網絡的優化后的表示，其中所述優化后的表示包括所述單個組合層。所述優化后的表示可以用來生成所述神經網絡的可執行版本。當在目標機器上實現所述神經網絡的所述可執行版本時，所述單個組合層可以利用單個內核調用來調用。

在一個實施方案中，所述系統接收對將在所述源代碼表示中搜索的一個或多個圖案的表示。每個圖案包括兩個或更多個相鄰層的標識。而且，對個每個圖案，所述系統接收用來替換檢測到的圖案的對應的組合層。接下來，所述系統確定所述源代碼表示是否包括所述一個或多個圖案的任何出現。然后，所述系統用對應的組合層替換所述一個或多個圖案的任何出現。