[發明專利]基于先前的簡化圖執行的條件性圖執行

在審

• 申請號: 201880032308.0
• 申請日: 2018-04-06
• 公開（公告）號: CN110637306A
• 公開（公告）日: 2019-12-31
• 發明（設計）人: L.巴吉克;M.特拉杰科維奇;I.哈默
• 申請（專利權）人: 滕斯托倫特股份有限公司
• 主分類號: G06N3/02
• 分類號: G06N3/02
• 代理公司: 11105 北京市柳沈律師事務所
• 代理人: 萬里晴

1.一種用于執行有向圖的計算機實施的方法，其中每個步驟由處理器執行，所述方法包括：

導出所述有向圖的簡化版本；

將先導輸入張量應用于所述有向圖的簡化版本；

在將所述先導輸入張量應用于所述有向圖的簡化版本期間獲得執行數據的集合；

將實時輸入張量應用于所述有向圖；

在將所述實時輸入張量應用于所述有向圖期間，使用所述執行數據的集合來條件化所述有向圖的執行；以及

從所述有向圖的條件性執行中獲得輸出張量。

2.根據權利要求1所述的計算機實施的方法，其中：

所述先導輸入張量和所述實時輸入張量不相同；以及

所述先導輸入張量和所述實時輸入張量隨機相關。

3.根據權利要求1所述的計算機實施的方法，還包括：

將所述執行數據存儲在存儲器中作為存儲的執行數據；以及

使用所述存儲的執行數據，在所述有向圖的條件性執行之前將所述有向圖準備好用于所述條件性執行。

4.根據權利要求1所述的計算機實施的方法，其中：

所述有向圖包括一組頂點和互連所述一組頂點的一組邊；

所述有向圖是神經網絡；

有向圖的所述一組邊是涉及所述神經網絡的一組權重的計算，其中所述一組權重包括至少一個權重張量；

所述一組頂點的至少一個子集是所述神經網絡的權重；

所述有向圖的條件性執行產生推理張量；以及

所述推理張量是所述神經網絡對所述實時輸入張量的響應。

5.根據權利要求4所述的計算機實施的方法，其中：

所述一組邊中的邊是使用四維張量的計算。

6.根據權利要求4所述的計算機實施的方法，其中：

所述有向圖的簡化版本的導出包括以采樣因子對所述有向圖進行下采樣；

所述有向圖的簡化版本因此是所述有向圖的下采樣版本；

用于執行所述有向圖的簡化版本的第一完整組張量具有秩；以及

用于執行所述有向圖的第二完整組張量具有所述秩。

7.根據權利要求6所述的計算機實施的方法，其中：

所述有向圖的下采樣利用多項式插值法。

8.根據權利要求4所述的計算機實施的方法，其中：

所述有向圖的簡化版本的導出包括利用一組替換值替換所述一組權重的一組原始值；以及

所述有向圖的簡化版本具有與所述有向圖相同數量的層。

9.根據權利要求8所述的計算機實施的方法，其中所述替換包括以下之一：

減少用于表示所述一組原始值的比特數，以獲得所述一組替換值；以及

使用所述一組原始值的一組指數計算所述一組替換值。

10.根據權利要求4所述的計算機實施的方法，其中：

所述執行數據的集合包括一組執行數據值；

所述一組執行數據值和所述一組頂點具有唯一相對應的元素；

所述一組頂點中的每個唯一相對應的頂點響應于所述先導輸入張量產生對所述推理張量的貢獻；以及

所述一組執行數據值中的每個執行數據值在量級方面與所述一組頂點中的每個唯一相對應的頂點對所述推理張量的貢獻成比例。

11.根據權利要求4所述的計算機實施的方法，還包括：

將所述執行數據存儲在分布式的一組存儲器位置中；

使用單個地址從所述分布式的一組存儲器位置中的存儲器位置獲得以下兩者：(i)來自所述執行數據的執行數據的子集；和(ii)來自所述一組權重的權重張量；以及

其中，使用所述執行數據和所述一組權重實時進行所述有向圖的執行的條件化。