[發明專利]一種流執行方法及裝置

有效

• 申請號: 201611221799.2
• 申請日: 2016-12-26
• 公開（公告）號: CN106845631B
• 公開（公告）日: 2020-05-29
• 發明（設計）人: 陳云霽;李韋;杜子東;郭崎;陳天石
• 申請（專利權）人: 上海寒武紀信息科技有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06F9/38
• 代理公司: 北京華進京聯知識產權代理有限公司 11606
• 代理人: 孫巖

1.一種流執行方法，其中，包括：

獲得指令描述符流，所述指令描述符流用于生成指令流；

優化指令描述符流，所述優化指令描述符流包括：消除指令描述符流中的冗余操作；和/或融合指令描述符流的可融合操作；以及

根據所述優化后的指令描述符流構建指令流，

其中，所述獲得指令描述符流包括：

基于基礎數據構建設備流；以及

基于所述設備流構建指令描述符流，所述基礎數據包括神經網絡結構、輸入神經元及權值。

2.根據權利要求1所述的流執行方法，其中，所述消除指令描述符流中的冗余操作包括：

遍歷指令描述符流中指令描述符；

判斷指令描述符是否為冗余操作，若是，則去除冗余操作的指令描述符，否則保留指令描述符；以及

輸出無冗余操作的指令描述符流。

3.根據權利要求1所述的流執行方法，其中，所述融合指令描述符流的可融合操作包括：

遍歷指令描述符流中指令描述符；

判斷指令描述符流代表的網絡結構中是否存在可融合的層，若是，則根據網絡結構中可融合的層簡化指令描述符序，否則保留指令描述符；以及

輸出無可融合網絡結構的指令描述符流。

4.根據權利要求1所述的流執行方法，其中，所述流執行方法用于神經網絡，所述基礎數據為經網絡結構、輸入神經元及權值，所述設備流為神經網絡操作序列。

5.根據權利要求4所述的流執行方法，其中，所述神經網絡操作包括卷積，池化或激活。

6.一種流執行裝置，其中，包括：

預處理模塊(10)，用于獲得指令描述符流；

層優化模塊(20)，用于優化指令描述符流，所述層優化模塊(20)包括：層消除模塊(21)，用于消除指令描述符流中的冗余操作；和/或層融合模塊(22)，用于融合指令描述符流的可融合操作；以及

指令流構建模塊(30)，用于根據所述優化后的指令描述符流構建指令流，

其中，所述預處理模塊(10)包括：

設備流構建模塊(11)，用于基于基礎數據構建設備流；以及

指令描述符流構建模塊(12)，用于基于所述設備流構建指令描述符流，所述基礎數據包括神經網絡結構、輸入神經元及權值。

7.一種電路，用于執行權利要求1-5中任一所述的流執行方法。

8.根據權利要求7所述的電路，其中，所述電路包括專用邏輯門電路。

9.一種計算機可讀介質，用于執行權利要求1-5中任一所述的流執行方法。

10.根據權利要求9所述的計算機可讀介質，其中，所述計算機可讀介質包括非瞬態計算機可讀介質。