[發明專利]數據讀取方法和數據讀取電路

有效

• 申請號: 202011353109.5
• 申請日: 2020-11-27
• 公開（公告）號: CN112506567B
• 公開（公告）日: 2022-11-04
• 發明（設計）人: 左航;韓潔;盧一帆
• 申請（專利權）人: 海光信息技術股份有限公司
• 主分類號: G06F9/30
• 分類號: G06F9/30;G06F9/38;G06F17/16
• 代理公司: 北京市柳沈律師事務所 11105
• 代理人: 彭久云;羅莎

1.一種數據讀取方法，應用于矩陣乘法運算，其中，所述數據讀取方法包括：

獲取與當前線程束對應的第一矩陣緩存指令，其中，所述第一矩陣緩存指令用于實現對第一矩陣的數據進行讀取；

解析所述第一矩陣緩存指令，以獲得與所述當前線程束所需的所述第一矩陣中的P個數據對應的第一讀基地址、第一排序控制信息和第一寫基地址，其中，P為正整數；

基于所述第一讀基地址和所述第一排序控制信息，從存儲器上讀取所述P個數據；

基于所述第一寫基地址和所述第一排序控制信息，按照執行所述矩陣乘法運算時所述P個數據對應的存儲地址將所述P個數據寫入與所述當前線程束對應的單指令多數據流單元的多個矢量通用寄存器片上；

其中，所述第一讀基地址表示所述第一矩陣中所述P個數據所在的數據塊的第一行第一列的數據或所述第一矩陣的第一行第一列的數據在所述存儲器中的地址，所述第一寫基地址表示讀取的所述P個數據被寫入所述多個矢量通用寄存器時對應的第一個索引地址。

2.根據權利要求1所述的數據讀取方法，其中，解析所述第一矩陣緩存指令，以獲得所述第一排序控制信息，包括：

解析所述第一矩陣緩存指令，以得到封裝在所述第一矩陣緩存指令中的指令操作碼、工作組尺寸、地址偏移量、地址步長、矩陣信息和運算參數，

其中，所述第一排序控制信息包括所述指令操作碼、所述工作組尺寸、所述地址偏移量、所述地址步長、所述矩陣信息和所述運算參數，

所述矩陣乘法運算用于實現將第一運算矩陣和第二運算矩陣進行乘法計算，所述第一運算矩陣表示為M*K，所述第二運算矩陣表示為K*N，所述運算參數為K，其中，M、K、N均為正整數，

所述矩陣信息用于指示所述第一矩陣為所述第一運算矩陣或所述第二運算矩陣以及所述第一矩陣是否被轉置，

在所述第一矩陣為所述第一運算矩陣的情況下，所述地址步長表示所述第一矩陣的相鄰兩列數據之間的步長，

在所述第一矩陣為所述第二運算矩陣的情況下，所述地址步長表示所述第一矩陣的相鄰兩行數據之間的步長。

3.根據權利要求2所述的數據讀取方法，其中，基于所述第一讀基地址和所述第一排序控制信息，從存儲器上讀取所述P個數據，包括：

根據所述第一讀基地址和所述第一排序控制信息，計算得到與所述第一讀基地址對應的多個存儲器地址；

基于所述多個存儲器地址，從所述存儲器上讀取多個待處理數據，其中，所述多個待處理數據表示存儲在所述存儲器的所述多個存儲器地址中的數據；

基于所述第一排序控制信息，從所述多個待處理數據中獲取所述當前線程束所需的所述P個數據。

4.根據權利要求3所述的數據讀取方法，其中，所述第一矩陣包括多個第一數據塊，

根據所述第一讀基地址和所述第一排序控制信息，計算得到與所述第一讀基地址對應的多個存儲器地址，包括：

根據所述指令操作碼、所述工作組尺寸和所述矩陣信息，確定所述多個第一數據塊中與所述當前線程束對應的至少一個第一數據塊，其中，所述至少一個第一數據塊包括所述多個待處理數據；

根據所述至少一個第一數據塊的數量和所述運算參數，控制循環狀態并輸出循環參數；

基于所述至少一個第一數據塊中的每個第一數據塊的尺寸、所述循環參數、所述第一讀基地址、所述地址步長和所述地址偏移量，計算得到所述多個存儲器地址。

5.根據權利要求4所述的數據讀取方法，其中，基于所述至少一個第一數據塊中的每個第一數據塊的尺寸、所述循環參數、所述第一讀基地址、所述地址步長和所述地址偏移量，計算得到所述多個存儲器地址，包括：

基于所述至少一個第一數據塊中的每個第一數據塊的尺寸、所述循環參數、所述第一讀基地址、所述地址步長和所述地址偏移量，計算得到多個首地址，其中，所述至少一個第一數據塊中的每個第一數據塊的數據排列為多行多列，在所述第一矩陣為所述第一運算矩陣的情況下，所述多個首地址為所述至少一個第一數據塊的各列數據中的第一個數據的地址，在所述第一矩陣為所述第二運算矩陣的情況下，所述多個首地址為所述至少一個第一數據塊的各行數據的第一個數據的地址；

基于所述多個首地址，計算所述多個存儲器地址。