[發明專利]一種高效的卷積神經網絡運算指令集架構構建方法及裝置、服務器

有效

• 申請號: 202011352915.0
• 申請日: 2020-11-26
• 公開（公告）號: CN112348179B
• 公開（公告）日: 2023-04-07
• 發明（設計）人: 張將將;石皓冰
• 申請（專利權）人: 湃方科技（天津）有限責任公司
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06N3/0464
• 代理公司: 天津璽名知識產權代理有限公司 12237
• 代理人: 陳杰

本發明提供了一種高效的卷積神經網絡運算指令集架構構建方法，其中，指令由指令包進行組織，每個指令包包含多條指令；每條所述指令均包含用于標識本條指令所在指令包內的序號，以及指令包的起始和結尾標志的opcode信息；每個所述指令包均包含instinfo、instdepend、instpara信息；所述instinfo信息用于標識指令包的類型；所述instdepend信息，用于指定指令所需的硬件資源，以及指令間的依賴關系，結合調度策略，確保指令在亂序發射狀態下得到正確的執行結果；所述instpara信息，用于指定指令包的其他參數信息。本發明所述的高效的卷積神經網絡運算指令集架構及裝置、服務器能夠有效地提高卷積指令執行的并行度，加速卷積計算。

技術領域

本發明屬于人工智能神經網絡技術領域，尤其是涉及一種高效的卷積神經網絡運算指令集架構構建方法及裝置、服務器。

背景技術

卷積神經網絡是近年來廣泛應用于模式識別、圖像處理等領域的一種高效識別算法，它具有結構簡單、訓練參數少和適應性強等特點。由于CNN(Convolutional?NeuralNetworks)的特征檢測層通過訓練數據進行學習，所以在使用CNN時，避免了顯示的特征抽取，而隱式地從訓練數據中進行學習；再者由于同一特征映射面上的神經元權值相同，所以網絡可以并行學習，這也是卷積網絡相對于神經元彼此相連網絡的一大優勢。

在已有的計算機領域應用中，與卷積運算相關的應用十分普遍。在現有技術中，進行卷積神經網絡運算的已知方案是使用通用處理器，該方法通過通用寄存器堆和通用功能部件來執行通用指令，從而執行卷積神經網絡運算。然而，通用處理器多用于標量計算，在進行卷積神經網絡運算時運算性能很低。

發明內容

有鑒于此，為克服上述缺陷，本發明旨在提出一種高效的卷積神經網絡運算指令集架構構建方法及裝置、服務器。

為達到上述目的，本發明的技術方案是這樣實現的：

第一方面，本發明提供了一種高效的卷積神經網絡運算指令集架構，指令由指令包進行組織，每個指令包包含多條指令；

每條所述指令均包含用于標識本條指令所在指令包內的序號，以及指令包的起始和結尾標志的opcode信息；

每個所述指令包均包含instinfo、instdepend、instpara信息；

所述instinfo信息用于標識指令包的類型，所述指令包的類型為多種，每種類型的指令包對應由一個獨立的執行單元執行，不同類型的指令包由控制模塊分發到對應的執行單元；

所述instdepend信息，用于指定指令所需的硬件資源，以及指令間的依賴關系，結合調度策略，確保指令在亂序發射狀態下得到正確的執行結果；

所述instpara信息，用于指定指令包的其他參數信息。

進一步的，每個指令包所包含的指令條數是可變的，每個指令包包含的指令條數由該指令包所包含的信息量決定，每條指令占用64Bit內存空間。

進一步的，同一類型的指令包由執行單元按順序執行；

多個執行單元之間可并行執行指令包。

進一步的，指令包的類型包括Load?FM、load?WT、Cal和Save；

所述的Load?FM類型的指令包，用于將卷積運算所需的輸入特征圖數據由片外空間加載到片內空間；

所述的load?WT類型的指令包，用于將卷積運算所需的權重和偏置參數由片外空間加載到片內空間；

所述的Cal類型的指令包，用于進行卷積運算，并將運算結果存儲到片內空間；

所述的Save類型的指令包，用于將卷積運算得到的運算結果由片內空間存儲到片外空間。