[發(fā)明專利]人工智能處理器及使用處理器執(zhí)行矩陣乘向量指令的方法

有效

• 申請?zhí)枺?/td>: 201810849499.1
• 申請日: 2017-10-30
• 公開（公告）號: CN109086075B
• 公開（公告）日: 2021-06-08
• 發(fā)明（設計）人: 陳天石;劉少禮;王在;胡帥
• 申請（專利權）人: 上海寒武紀信息科技有限公司
• 主分類號: G06F9/30
• 分類號: G06F9/30;G06F17/16
• 代理公司: 廣州三環(huán)專利商標代理有限公司 44202
• 代理人: 郝傳鑫;熊永強

1.一種人工智能處理器，其特征在于，所述處理器設置于計算裝置內(nèi)，所述計算裝置用于執(zhí)行矩陣乘向量指令，執(zhí)行所述矩陣乘向量指令具體包括如下步驟：

獲取矩陣乘向量指令，所述矩陣乘向量指令包括：GEMV alpha,a, x, beta,y，GEMV為指令標識；所述x為向量x的首地址，所述y為向量y的首地址，a為矩陣A的首地址；標量alpha和beta用于對矩陣和向量進行縮放；

執(zhí)行所述矩陣乘向量指令得到矩陣乘向量指令的具體結果；所述執(zhí)行所述矩陣乘向量指令得到矩陣乘向量指令的具體結果具體包括：

提取所述矩陣乘向量指令中的向量x、向量y、矩陣A，將向量x、矩陣A進行乘積運算后乘以alpha加上beta乘以向量y得到矩陣乘向量運算的結果。

2.根據(jù)權利要求1所述的人工智能處理器，其特征在于，

所述矩陣乘向量指令還包括：type，incx，incy,其中，type為進行操作的數(shù)據(jù)類型，incx為向量x的元素之間的地址間隔；incy為向量y的元素之間的地址間隔,所述提取所述矩陣乘向量指令向量x，向量y具體包括：

以步長incx提取矩陣乘向量的向量x；以步長incy提取矩陣乘向量的向量y。

3.根據(jù)權利要求1或2所述的人工智能處理器，其特征在于，

所述矩陣乘向量指令還包括layout, trans ，m, n，lda，所述layout為矩陣A的存儲格式，所述m為矩陣A的行數(shù)，所述n為矩陣A的列數(shù)，所述lda為矩陣A低維的長度，所述trans表示矩陣A的變換信息；所述提取所述矩陣乘向量指令矩陣A具體包括：

如所述變換信息為不變換，按所述layout的存儲格式以及l(fā)da的低維長度提取行數(shù)為m，列數(shù)為n的矩陣A；

如所述變換信息為變換，按所述layout的存儲格式以及l(fā)da的低維長度提取行數(shù)為m，列數(shù)為n的矩陣A，對矩陣A進行變換操作得到變換后的矩陣A。

4.根據(jù)權利要求2所述的人工智能處理器，其特征在于，

所述操作的數(shù)據(jù)類型為實數(shù)。

5.根據(jù)權利要求1所述的人工智能處理器，其特征在于，所述計算裝置還包括：存儲器，所述存儲器用于存儲向量、矩陣、標量。

6.根據(jù)權利要求5所述的處理器，其特征在于，所述計算裝置還包括：存儲器，所述存儲器為高速暫存存儲器。

7.根據(jù)權利要求5或6所述的人工智能處理器，其特征在于，

所述處理器，用于向所述存儲器發(fā)送讀取向量x的讀取命令以批量讀取方式獲取對應的向量x，向所述存儲器發(fā)送讀取向量y的讀取命令以批量讀取方式獲取對應的向量y。

8.一種人工智能處理器執(zhí)行矩陣乘向量指令的方法，其特征在于，所述方法應用于計算裝置，所述方法包括如下步驟：

獲取矩陣乘向量指令，所述矩陣乘向量指令包括：GEMV alpha,a, x, beta,y，GEMV為指令標識；所述x為向量x的首地址，所述y為向量y的首地址，a為矩陣A的首地址, 標量alpha和beta用于對矩陣和向量進行縮放；

執(zhí)行所述矩陣乘向量指令得到矩陣乘向量指令的具體結果；所述執(zhí)行所述矩陣乘向量指令得到矩陣乘向量指令的具體結果具體包括：

提取所述矩陣乘向量指令中的向量x、向量y、矩陣A，將向量x、矩陣A進行乘積運算后乘以alpha加上beta乘以向量y得到矩陣乘向量運算的結果。

9.根據(jù)權利要求8所述的方法，其特征在于，

所述矩陣乘向量指令還包括：type，incx，incy,其中，type為進行操作的數(shù)據(jù)類型，incx為向量x的元素之間的地址間隔；incy為向量y的元素之間的地址間隔,所述提取所述矩陣乘向量指令向量x，向量y具體包括：

以步長incx提取矩陣乘向量的向量x，以步長incy提取矩陣乘向量的向量y。