[發明專利]運算方法有效
| 申請號： | 201880093914.3 | 申請日： | 2018-06-04 |
| 公開（公告）號： | CN112166442B | 公開（公告）日： | 2023-08-18 |
| 發明（設計）人： | 山倉誠 | 申請（專利權）人： | 株式會社索思未來 |
| 主分類號： | G06N3/063 | 分類號： | G06N3/063;G06N3/0464;G06F17/16 |
| 代理公司： | 永新專利商標代理有限公司 72002 | 代理人： | 安香子 |
| 地址： | 日本神*** | 國省代碼： | 暫無信息 |
| 權利要求書： | 查看更多 | 說明書： | 查看更多 |
| 摘要： | |||
| 搜索關鍵詞： | 運算 方法 | ||
1.一種運算方法，利用LSI的內部具有的運算器和內部存儲器，以矩陣乘積運算進行神經網絡的卷積層的卷積運算，所述運算方法包括：
判斷步驟，按照每個卷積層，判斷被輸入到該卷積層的輸入數據是否為規定的數據量以下；
以第1運算模式執行卷積運算的步驟，在所述判斷步驟中，被判斷為所述輸入數據是規定的數據量以下的情況下，選擇第1運算模式，以所述第1運算模式執行卷積運算；
以第2運算模式執行卷積運算的步驟，在所述判斷步驟中，被判斷為所述輸入數據比規定的數據量大的情況下，選擇第2運算模式，以所述第2運算模式執行卷積運算；以及
輸出步驟，對輸出數據進行輸出，所述輸出數據是執行卷積運算而獲得的結果，
所述以第1運算模式執行卷積運算的步驟，包括：
將該卷積層的權重數據，配置在位于所述LSI的外部的外部存儲器的步驟；
將該卷積層的所述輸入數據配置在所述內部存儲器的步驟；以及
從所述外部存儲器，將所述權重數據，按每一部分，作為1個以上的行或者列向量數據，讀入到所述內部存儲器，并且使所述運算器對該1個以上的行或者列向量數據與被配置在所述內部存儲器的所述輸入數據的矩陣進行矩陣乘積運算的步驟，
所述權重數據作為整體，從所述外部存儲器讀入到所述內部存儲器的次數僅為一次，
所述以第2運算模式執行卷積運算的步驟，包括：
將該卷積層的輸入數據，配置在位于所述LSI的外部的外部存儲器的步驟；
將該卷積層的權重數據的矩陣，配置在所述內部存儲器的步驟；以及
從所述外部存儲器，將所述輸入數據，按每一部分，作為1個以上的列或者行向量數據，讀入到所述內部存儲器，并且使所述運算器對該1個以上的列或者行向量數據與被配置在所述內部存儲器的所述權重數據的矩陣進行矩陣乘積運算的步驟，
所述輸入數據作為整體，從所述外部存儲器讀入到所述內部存儲器的次數僅為一次。
2.如權利要求1所述的運算方法，
在所述輸出步驟中，將所述輸出數據，作為該卷積層的后段的層中的輸入數據而配置到所述內部存儲器或所述外部存儲器，從而輸出所述輸出數據。
3.如權利要求2所述的運算方法，
所述后段的層是卷積層、池化層、或歸一化層。
4.如權利要求1所述的運算方法，
所述以第1運算模式執行卷積運算的步驟，包括：
對配置在所述內部存儲器的所述輸入數據進行采樣，從而變換為所述輸入數據的矩陣的步驟，
所述以第2運算模式執行卷積運算的步驟，包括：
對讀入到所述內部存儲器的所述輸入數據的一部分進行采樣，從而變換為所述1個以上的列或者行向量數據的步驟。
5.如權利要求1所述的運算方法，
在所述以第2運算模式執行卷積運算的步驟中，
所述輸入數據，以瓦片狀的形式而被配置在所述外部存儲器。
6.如權利要求1所述的運算方法，
在所述輸出步驟中，在所述輸出數據被配置在所述外部存儲器的情況下，所述輸出數據，以瓦片狀的形式而被配置在所述外部存儲器。
7.一種運算方法，利用LSI的內部具有的運算器和內部存儲器，以矩陣乘積運算進行神經網絡的卷積層的卷積運算，所述運算方法包括：
判斷步驟，按照每個卷積層，判斷被輸入到該卷積層的輸入數據是否為規定的數據量以下；
以第1運算模式執行卷積運算的步驟，在所述判斷步驟中，被判斷為所述輸入數據是規定的數據量以下的情況下，選擇第1運算模式，以所述第1運算模式執行卷積運算；
以第2運算模式執行卷積運算的步驟，在所述判斷步驟中，被判斷為所述輸入數據比規定的數據量大的情況下，選擇第2運算模式，以所述第2運算模式執行卷積運算；以及
輸出步驟，對輸出數據進行輸出，所述輸出數據是執行卷積運算而獲得的結果，
所述以第1運算模式執行卷積運算的步驟，包括：
將該卷積層的權重數據，配置在位于所述LSI的外部的外部存儲器的步驟；
將該卷積層的所述輸入數據配置在所述內部存儲器的步驟；以及
從所述外部存儲器，將所述權重數據，按每一部分，作為1個以上的行或者列向量數據，讀入到所述內部存儲器，并且使所述運算器對該1個以上的行或者列向量數據與被配置在所述內部存儲器的所述輸入數據的矩陣進行矩陣乘積運算的步驟，
所述權重數據作為整體，從所述外部存儲器讀入到所述內部存儲器的次數僅為一次，
所述以第2運算模式執行卷積運算的步驟，包括：
將該卷積層的輸入數據以及權重數據，配置在位于所述LSI的外部的外部存儲器的步驟；
從所述外部存儲器，將所述權重數據的一部分，作為1個以上的行或者列向量數據即第1向量數據，配置在所述內部存儲器的步驟；
從所述外部存儲器，將所述輸入數據，按每一部分，作為1個以上的列或者行向量數據，讀入到所述內部存儲器，并且使所述運算器對該1個以上的列或者行向量數據與被配置在所述內部存儲器的所述第1向量數據進行矩陣乘積運算的步驟；
從所述外部存儲器，將所述權重數據的與所述一部分不同的一部分，作為1個以上的行或者列向量數據即第2向量數據，配置在所述內部存儲器的步驟；以及
從所述外部存儲器，將所述輸入數據，按每一部分，作為1個以上的列或者行向量數據，讀入到所述內部存儲器，并且使所述運算器對該1個以上的列或者行向量數據與被配置在所述內部存儲器的所述第2向量數據進行矩陣乘積運算的步驟，
所述權重數據作為整體，從所述外部存儲器讀入到所述內部存儲器的次數僅為一次。
該專利技術資料僅供研究查看技術是否侵權等信息，商用須獲得專利權人授權。該專利全部權利屬于株式會社索思未來，未經株式會社索思未來許可，擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作，請聯系【客服】
本文鏈接：http://www.szxzyx.cn/pat/books/201880093914.3/1.html，轉載請聲明來源鉆瓜專利網。
