[發明專利]數據讀取方法、裝置、介質和計算設備

有效

• 申請號: 202110343010.5
• 申請日: 2021-03-30
• 公開（公告）號: CN113111303B
• 公開（公告）日: 2022-04-05
• 發明（設計）人: 王佳辰;張廣勇;段亦濤
• 申請（專利權）人: 網易有道信息技術（北京）有限公司
• 主分類號: G06F17/16
• 分類號: G06F17/16
• 代理公司: 北京維昊知識產權代理事務所(普通合伙) 11804
• 代理人: 李強

1.一種用于端側人工智能設備的語音識別、文字識別或機器翻譯的推理的數據讀取方法，包括：

根據待相乘的M×K矩陣和K×N矩陣的矩陣信息，確定所述M×K矩陣和所述K×N矩陣是否為扁平矩陣，其中M、K和N為正整數；

當所述M×K矩陣和所述K×N矩陣中的一個矩陣為扁平矩陣時，從存儲器中讀取所述扁平矩陣的元素參與矩陣乘法運算，并且根據所述M×K矩陣和所述K×N矩陣中的另一個非扁平矩陣的順序存儲方式來從存儲器中直接讀取連續存儲的所述另一個非扁平矩陣的元素參與所述矩陣乘法運算，無需對非扁平矩陣進行重新排序。

2.根據權利要求1所述的方法，其中，所述根據矩陣信息，確定所述M×K矩陣和所述K×N矩陣是否為扁平矩陣包括：

根據M與K的比值以及N與K的比值，確定所述M×K矩陣和所述K×N矩陣是否為扁平矩陣。

3.根據權利要求2所述的方法，其中，所述根據M與K的比值以及N與K的比值，確定所述M×K矩陣和所述K×N矩陣是否為扁平矩陣包括：

當M與K的比值小于或等于第一預設閾值時，所述M×K矩陣為扁平矩陣；

當N與K的比值小于或等于所述第一預設閾值時，所述K×N矩陣為扁平矩陣。

4.根據權利要求1所述的方法，其中，所述根據矩陣信息，確定所述M×K矩陣和所述K×N矩陣是否為扁平矩陣包括：

根據所述M×K矩陣和所述K×N矩陣的存儲方式、根據M與K的比值以及N與K的比值，確定所述M×K矩陣和所述K×N矩陣是否為扁平矩陣。

5.根據權利要求4所述的方法，其中，所述根據所述M×K矩陣和所述K×N矩陣的存儲方式、根據M與K的比值以及N與K的比值，確定所述M×K矩陣和所述K×N矩陣是否為扁平矩陣包括：

當所述M×K矩陣的存儲方式是列主序時，并且當N與K的比值小于或等于第一預設閾值時，所述K×N矩陣為扁平矩陣；

當所述M×K矩陣的存儲方式是行主序時，并且當N與K的比值小于或等于第二預設閾值時，所述K×N矩陣為扁平矩陣；

當所述K×N矩陣的存儲方式是行主序時，并且當M與K的比值小于或等于所述第一預設閾值時，所述M×K矩陣為扁平矩陣；

當所述K×N矩陣的存儲方式是列主序時，并且當M與K的比值小于或等于所述第二預設閾值時，所述M×K矩陣為扁平矩陣。

6.根據權利要求5所述的方法，其中，所述第一預設閾值小于所述第二預設閾值。

7.根據權利要求1所述的方法，其中，所述從存儲器中讀取所述扁平矩陣的元素參與矩陣乘法運算包括：

當所述扁平矩陣的元素存儲方式與在矩陣乘法運算時的元素使用順序一致時，直接讀取連續存儲的所述扁平矩陣中的元素參與所述矩陣乘法運算。

8.根據權利要求1所述的方法，其中，所述從存儲器中讀取所述扁平矩陣的元素參與矩陣乘法運算包括：

當所述扁平矩陣的元素存儲方式與在矩陣乘法運算時的元素使用順序不一致時，按照如下方式從存儲器中讀取所述扁平矩陣的元素：

從所述存儲器中跳躍式讀取所述扁平矩陣中的參與所述矩陣乘法運算的元素；

將讀取的元素按照所述矩陣乘法運算時的元素使用順序重新排列并連續存儲在預設存儲空間中；

在進行所述矩陣乘法運算時，按照重新排列的存儲順序從所述預設存儲空間中連續讀取所述扁平矩陣的元素。