[發(fā)明專利]一種AI計算陣列分布式緩存的方法、系統(tǒng)、設備及介質(zhì)

在審

• 申請?zhí)枺?/td>: 202010094527.0
• 申請日: 2020-02-16
• 公開（公告）號: CN111339045A
• 公開（公告）日: 2020-06-26
• 發(fā)明（設計）人: 李拓
• 申請（專利權(quán)）人: 蘇州浪潮智能科技有限公司
• 主分類號: G06F16/172
• 分類號: G06F16/172;G06F16/182
• 代理公司: 北京連和連知識產(chǎn)權(quán)代理有限公司 11278
• 代理人: 楊帆

1.一種AI計算陣列分布式緩存的方法，其特征在于，包括以下步驟：

將所述計算陣列中用于緩存的計算單元按照順序連接以形成環(huán)狀結(jié)構(gòu)；

響應于接收到緩存請求，判斷所述緩存請求是讀請求還是寫請求；

響應于所述緩存請求是寫請求，將待寫入的數(shù)據(jù)根據(jù)計算單元的緩存大小劃分成多行，并按照順序依次將每行數(shù)據(jù)寫入所述環(huán)狀結(jié)構(gòu)中對應的計算單元；以及

響應于所述緩存請求是讀請求，將所述讀請求按照所述環(huán)狀結(jié)構(gòu)的順序從當前計算單元發(fā)送到目標計算單元。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述將待寫入的數(shù)據(jù)根據(jù)計算單元的緩存大小劃分成多行包括：

將每行的數(shù)據(jù)的寬度設置為單個計算單元能夠緩存的最大寬度。

3.根據(jù)權(quán)利要求2所述的方法，其特征在于，所述按照順序依次將每行數(shù)據(jù)寫入所述環(huán)狀結(jié)構(gòu)中對應的計算單元包括：

將首行數(shù)據(jù)寫入當前計算單元；以及

將下一行的數(shù)據(jù)寫入下一個計算單元。

4.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述將所述讀請求按照所述環(huán)狀結(jié)構(gòu)的順序從當前計算單元發(fā)送到目標計算單元包括：

基于所述讀請求確定緩存的起始位置和結(jié)束位置；以及

將所述讀請求從當前計算單元發(fā)送到所述起始位置。

5.根據(jù)權(quán)利要求4所述的方法，其特征在于，所述將所述讀請求按照所述環(huán)狀結(jié)構(gòu)的順序從當前計算單元發(fā)送到目標計算單元還包括：

判斷所述讀請求是否到達所述結(jié)束位置；以及

響應于所述讀請求未到達所述結(jié)束位置，將所述讀請求繼續(xù)向下一個計算單元傳遞。

6.一種AI計算陣列分布式緩存的系統(tǒng)，其特征在于，包括：

創(chuàng)建模塊，配置用于將所述計算陣列中用于緩存的計算單元按照順序連接以形成環(huán)狀結(jié)構(gòu)；

判斷模塊，配置用于響應于接收到緩存請求，判斷所述緩存請求是讀請求還是寫請求；

寫請求模塊，配置用于響應于所述緩存請求是寫請求，將待寫入的數(shù)據(jù)根據(jù)計算單元的緩存大小劃分成多行，并按照順序依次將每行數(shù)據(jù)寫入所述環(huán)狀結(jié)構(gòu)中對應的計算單元；以及

讀請求模塊，配置用于響應于所述緩存請求是讀請求，將所述讀請求按照所述環(huán)狀結(jié)構(gòu)的順序從當前計算單元發(fā)送到目標計算單元。

7.根據(jù)權(quán)利要求6所述的系統(tǒng)，其特征在于，所述讀請求模塊還配置用于：

基于所述讀請求確定緩存的起始位置和結(jié)束位置；以及

將所述讀請求從當前計算單元發(fā)送到所述起始位置。

8.根據(jù)權(quán)利要求7所述的系統(tǒng)，其特征在于，所述讀請求模塊還配置用于：

判斷所述讀請求是否到達所述結(jié)束位置；以及

響應于所述讀請求未到達所述結(jié)束位置，將所述讀請求繼續(xù)向下一個計算單元傳遞。

9.一種計算機設備，其特征在于，包括：

至少一個處理器；以及

存儲器，所述存儲器存儲有可在所述處理器上運行的計算機指令，所述指令由所述處理器執(zhí)行時實現(xiàn)權(quán)利要求1-5任意一項所述方法的步驟。

10.一種計算機可讀存儲介質(zhì)，所述計算機可讀存儲介質(zhì)存儲有計算機程序，其特征在于，所述計算機程序被處理器執(zhí)行時實現(xiàn)權(quán)利要求1-5任意一項所述方法的步驟。