[發明專利]一種高效的卷積神經網絡運算指令集架構構建方法及裝置、服務器

有效

• 申請號: 202011352915.0
• 申請日: 2020-11-26
• 公開（公告）號: CN112348179B
• 公開（公告）日: 2023-04-07
• 發明（設計）人: 張將將;石皓冰
• 申請（專利權）人: 湃方科技（天津）有限責任公司
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06N3/0464
• 代理公司: 天津璽名知識產權代理有限公司 12237
• 代理人: 陳杰

1.一種高效的卷積神經網絡運算指令集架構構建方法，其特征在于：指令由指令包進行組織，每個指令包包含多條指令；

每條所述指令均包含opcode信息，所述opcode信息用于標識本條指令所在指令包內的序號，以及作為指令包的起始和結尾標志；

每個所述指令包均包含instinfo、instdepend、instpara信息；

所述instinfo信息用于標識指令包的類型，所述指令包的類型為多種，每種類型的指令包對應由一個獨立的執行單元執行，不同類型的指令包由控制模塊分發到對應的執行單元；

所述instdepend信息，用于指定指令所需的硬件資源，以及指令間的依賴關系，結合調度策略，確保指令在亂序發射狀態下得到正確的執行結果；

所述instpara信息，用于指定指令包的其他參數信息；

指令包的類型包括Load?FM、load?WT、Cal和Save；

所述的Load?FM類型的指令包，用于將卷積運算所需的輸入特征圖數據由片外空間加載到片內空間；

所述的load?WT類型的指令包，用于將卷積運算所需的權重和偏置參數由片外空間加載到片內空間；

所述的Cal類型的指令包，用于進行卷積運算，并將運算結果存儲到片內空間；

所述的Save類型的指令包，用于將卷積運算得到的運算結果由片內空間存儲到片外空間；

所述硬件資源包括Feature?Map資源、Weight資源和Save資源；Feature?Map資源用來存儲卷積運算所需的輸入特征圖數據，Weight資源用來存儲卷積運算所需的權重和偏置參數，Save資源用來存儲卷積運算的結果，每種資源都有ping和pong兩份，且ping和pong都有獨立的ready信號；

所述的調度策略執行過程如下：

Load?FM類型的指令包需要用到Feature?Map資源，只有當指令所需資源的ready信號清零時，指令才能夠執行，否則阻塞，直到所需資源的ready信號清零；load?WT和Save類型的指令包同理，load?WT類型的指令包需要用到Weight資源，只有當指令所需資源的ready信號清零時，指令才能夠執行，否則阻塞，直到所需資源的ready信號清零；Save類型的指令包需要用到Save資源，只有當指令所需資源的ready信號清零時，指令才能夠執行，否則阻塞，直到所需資源的ready信號清零；Cal類型的指令包需要用到上述的Feature?Map資源、Weight資源、以及Save資源，只有當指令所需的三種資源的ready信號都被置位時，指令才能夠執行，否則阻塞，直到三種資源的ready信號均被置位。

2.根據權利要求1所述的高效的卷積神經網絡運算指令集架構構建方法，其特征在于：每個指令包所包含的指令條數是可變的，每個指令包包含的指令條數由該指令包所包含的信息量決定，每條指令占用64Bit內存空間。

3.根據權利要求1所述的高效的卷積神經網絡運算指令集架構構建方法，其特征在于：同一類型的指令包由執行單元按順序執行；

多個執行單元之間可并行執行指令包。