[發明專利]存取張量數據的方法和裝置

在審

• 申請號: 201811541065.1
• 申請日: 2018-12-17
• 公開（公告）號: CN111324294A
• 公開（公告）日: 2020-06-23
• 發明（設計）人: 孫晨;王振江;陳亮;凌坤
• 申請（專利權）人: 地平線(上海)人工智能技術有限公司
• 主分類號: G06F3/06
• 分類號: G06F3/06
• 代理公司: 北京市正見永申律師事務所 11497
• 代理人: 黃小臨;馮玉清

1.一種存取張量數據的方法，包括：

確定第一存儲器的第一行地址，期望從所述張量數據的邏輯結構中存取的至少一個第一數據項存儲在所述第一存儲器的第一行地址處；

將所述第一存儲器中的第一行地址處的數據項復制到第一緩沖存儲器的第一緩存行中；

將所述第一緩沖存儲器的第一緩存行中的每個第一數據項移動到第二緩沖存儲器的至少第一緩存行中的相應位置處，每個第一數據項在所述第二緩沖存儲器的至少第一緩存行中的相應位置取決于在第二存儲器中分配給該第一數據項的目標位置；以及

將所述第二緩沖存儲器的第一緩存行中的數據項存儲到所述第二存儲器中的對應的目標位置處。

2.根據權利要求1所述的方法，還包括：

在所述第二緩沖存儲器的第二緩存行包括至少一個第一數據項的情況下，將所述第二緩沖存儲器的第二緩存行中的每個第一數據項存儲到所述第二存儲器中的對應的目標位置處，其中，在所述第一存儲器中，所述第二緩沖存儲器的第二緩存行中的每個第一數據項位于所述第二緩沖存儲器的第一緩存行中的每個第一數據項之后。

3.根據權利要求1所述的方法，還包括：

確定所述第一存儲器的第二行地址，期望從所述邏輯結構中存取的至少一個第二數據項存儲在所述第一存儲器的第二行地址處；

將所述第一存儲器中的第二行地址處的數據項復制到所述第一緩沖存儲器的第二緩存行中；

將所述第一緩沖存儲器的第二緩存行中的每個第二數據項移動到所述第二緩沖存儲器的至少第二緩存行中的相應位置處，每個第二數據項在所述第二緩沖存儲器的至少第二緩存行中的相應位置取決于在所述第二存儲器中分配給該第二數據項的目標位置；以及

將所述第二緩沖存儲器的第二緩存行中的數據項存儲到所述第二存儲器中的對應的目標位置處。

4.根據權利要求3所述的方法，還包括：

在所述第二緩沖存儲器的第一緩存行包括至少一個第二數據項的情況下，將所述第二緩沖存儲器的第一緩存行中的每個第二數據項存儲到所述第二存儲器中的對應的目標位置處，其中，在所述第一存儲器中，所述第二緩沖存儲器的第一緩存行中的每個第二數據項位于所述第二緩沖存儲器的第二緩存行中的每個第二數據項之后。

5.根據權利要求3所述的方法，其中，將所述第一緩沖存儲器的第二緩存行中的每個第二數據項移動到所述第二緩沖存儲器的至少第二緩存行中的相應位置處包括：

與將所述第二緩沖存儲器的第一緩存行中的數據項存儲到所述第二存儲器中的對應的目標位置處相并行地，或者在將所述第二緩沖存儲器的第一緩存行中的數據項存儲到所述第二存儲器中的對應的目標位置處之后，將所述第一緩沖存儲器的第二緩存行中的每個第二數據項移動到所述第二緩沖存儲器的至少第二緩存行中的相應位置處。

6.根據權利要求1至5中的任一項所述的方法，還包括：

接收指示存取張量數據的指令；以及

通過解析所述指令確定所述邏輯結構中期望被存取的數據項、所述第一行地址以及所述邏輯結構中期望被存取的各個數據項在所述第二存儲器中的目標位置中的一個或多個。

7.一種計算機可讀取的非臨時性存儲介質，在其上存儲有程序指令，所述程序指令在被處理器或控制器執行時執行根據權利要求1至6中的方法。

8.一種存取張量數據的裝置，包括：

第一緩沖存儲器；

第二緩沖存儲器；以及

控制器，耦接到第一存儲器、第二存儲器、所述第一緩沖存儲器和所述第二緩沖存儲器，并且被配置為在被啟動時根據指令至少執行根據權利要求1至6中的方法。

9.根據權利要求8所述的裝置，其中，所述第一緩沖存儲器的每個緩存行的容量與所述第一存儲器中的具有相同行地址的多個存儲單元的總容量相同，并且所述第二緩沖存儲器的每個緩存行的容量與所述第二存儲器中的具有相同行地址的多個存儲單元的總容量相同。

10.根據權利要求8所述的裝置，其中，所述第一緩沖存儲器和所述第二緩沖存儲器中的每一個是按照緩存行循環尋址的緩沖存儲器。