[發明專利]用于提高卷積效率的方法、系統和裝置

在審

• 申請號: 201880047459.3
• 申請日: 2018-05-18
• 公開（公告）號: CN111133452A
• 公開（公告）日: 2020-05-08
• 發明（設計）人: S·鮑爾;D·莫洛尼;B·巴里;F·康納
• 申請（專利權）人: 莫維迪烏斯有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06N3/04;G06K9/62;G06K9/00
• 代理公司: 永新專利商標代理有限公司 72002
• 代理人: 劉文燦

1.一種用于提高卷積效率的裝置，所述裝置包括：

數據處理元件(DPE)庫存引擎，其用于識別被包括在DPE陣列中的平臺可用的DPE；

模式選擇器，其用于確定所述DPE中的所識別的DPE的卷積布置；

DPE配置優化器，其用于基于所述DPE中的所識別的DPE來確定DPE利用率；以及

卷積引擎，其用于當所述DPE利用率滿足DPE利用率門限時，使用所述DPE中的所識別的DPE來促進卷積運算。

2.根據權利要求1所述的裝置，其中，所述卷積引擎用于：

將(a)輸入通道的輸入位置的激活值與(b)對應于所述輸入位置的濾波器系數相乘以生成卷積輸出；以及

計算所述卷積輸出的總和，以生成輸出通道的輸出位置。

3.根據權利要求2所述的裝置，其中，所述輸出位置是第一輸出位置，并且所述卷積引擎用于：

計算包括包含所述第一輸出位置在內的輸出位置的池區域；以及

計算所述池區域的平均值或最大值中的至少一個。

4.根據權利要求3所述的裝置，其中，所述卷積引擎用于對所述池區域的至少一個平均值或最大值執行偏置操作、縮放操作、參數整流器線性單元操作或整流器線性單元操作中的至少一個。

5.根據權利要求1所述的裝置，其中，所述卷積布置是第一卷積布置，并且所述DPE利用率是第一DPE利用率，并且所述DPE配置優化器用于：

比較所述第一DPE利用率和所述DPE利用率門限；

當所述第一DPE利用率不滿足所述DPE利用率門限時，阻止對所述卷積運算的所述促進；

將與第二卷積布置相關聯的第二DPE利用率和所述DPE利用率門限進行比較；以及

所述卷積引擎用于基于所述比較，當所述第二DPE利用率滿足所述DPE利用率門限時，使用所述第二卷積布置來促進所述卷積運算。

6.根據權利要求1所述的裝置，其中，所述DPE陣列包括256個DPE。

7.根據權利要求1所述的裝置，其中，所述卷積布置是1*256、2*128、4*64、8*32或16*16卷積布置中的至少一個。

8.根據權利要求1所述的裝置，其中，所述卷積引擎使用所述DPE中的所識別的DPE來實質上并行地促進所述卷積運算。

9.根據權利要求1所述的裝置，其中，所述卷積引擎通過調整累加器的整數比特數以修改所述累加器的范圍或調整所述累加器的小數比特數以修改所述累加器的精度中的至少一個來促進所述卷積運算。

10.一種非暫時性計算機可讀存儲介質，其包括指令，所述指令當被執行時使機器至少執行：

識別被包括在數據處理元件(DPE)陣列中的平臺可用的DPE；

確定所述DPE中的所識別的DPE的卷積布置；

基于所述DPE中的所識別的DPE來確定DPE利用率；以及

當所述DPE利用率滿足DPE利用率門限時，使用所述DPE中的所識別的DPE來促進卷積運算。

11.根據權利要求10所述的非暫時性計算機可讀存儲介質，其還包括指令，所述指令當被執行時使所述機器至少執行：

將(a)輸入通道的輸入位置的激活值與(b)對應于所述輸入位置的濾波器系數相乘以生成卷積輸出；以及

計算所述卷積輸出的總和，以生成輸出通道的輸出位置。

12.根據權利要求11所述的非暫時性計算機可讀存儲介質，其中，所述輸出位置是第一輸出位置，并且所述非暫時性計算機可讀存儲介質還包括指令，所述指令當被執行時使所述機器至少執行：

計算包括包含所述第一輸出位置在內的輸出位置的池區域；以及

計算所述池區域的平均值或最大值中的至少一個。