[發明專利]存儲空間分配方法、終端設備及計算機可讀存儲介質

在審

• 申請號: 202111593326.6
• 申請日: 2021-12-23
• 公開（公告）號: CN114416605A
• 公開（公告）日: 2022-04-29
• 發明（設計）人: 文博;蔡萬偉
• 申請（專利權）人: 深圳云天勵飛技術股份有限公司;江蘇云天勵飛技術有限公司
• 主分類號: G06F12/02
• 分類號: G06F12/02;G06N3/04
• 代理公司: 深圳中一聯合知識產權代理有限公司 44414
• 代理人: 左婷蘭

1.一種存儲空間分配方法，其特征在于，應用于神經網絡，所述神經網絡中包括多個層組，每個層組中包括連續的至少一個層，每個層組有至少一個輸入端層組和至少一個輸出端層組，所述方法包括：

若所述神經網絡中存在與第一層組的第一輸出張量具有相同負載的第二層組的第二輸出張量、且所述第二層組的第二輸出張量已分配有第一存儲編號，則將所述第一存儲編號分配給所述第一層組的第一輸出張量，其中，所述第一輸出張量的負載為所述第一層組的輸出端層組的輸出張量，存儲編號用于表示第一存儲空間中存儲區域的先后順序；

計算所述第一層組的第一輸出張量的第一數據量；

根據所述第一數據量更新所述第一存儲編號對應存儲區域的大小。

2.如權利要求1所述的存儲空間分配方法，其特征在于，所述方法還包括：

若所述神經網絡中存在與所述第一層組的第一輸出張量具有相同負載的第二層組的第二輸出張量、且所述第二層組的第二輸出張量未分配存儲編號，或所述神經網絡中不存在與所述第一層組的第一輸出張量具有相同負載的第二層組的第二輸出張量，則根據所述第一存儲空間中的空閑存儲區域為所述第一層組的第一輸出張量分配第二存儲編號；

根據所述第一數據量設置所述第二存儲編號對應的存儲區域的大小。

3.如權利要求2所述的存儲空間分配方法，其特征在于，為所述第一層組的第一輸出張量分配存儲編號之后，所述方法還包括：

若目標張量的所有負載均已分配存儲編號，則回收所述目標張量的存儲編號，并釋放所述目標張量的存儲編號對應的存儲區域，其中，所述目標張量為所述第一輸出張量的驅動中任意一個輸出張量。

4.如權利要求3所述的存儲空間分配方法，其特征在于，所述根據第一存儲空間中的空閑存儲區域為所述第一層組的第一輸出張量分配第二存儲編號，包括：

若當前所述第一存儲空間中存在已分配的存儲區域，則判斷當前是否存在已回收的存儲編號；

若當前存在已回收的存儲編號，則根據所述已回收的存儲編號為所述第一輸出張量分配所述第二存儲編號；

若當前不存在已回收的存儲編號，則將當前已分配的存儲編號的下一個存儲編號確定為第二存儲編號。

5.如權利要求2所述的存儲空間分配方法，其特征在于，所述根據第一存儲空間中的空閑存儲區域為所述第一層組的第一輸出張量分配第二存儲編號，包括：

若當前所述第一存儲空間中不存在已分配的存儲區域，則將起始存儲編號確定為所述第一層組的第一輸出張量的第二存儲編號。

6.如權利要求1所述的存儲空間分配方法，其特征在于，所述方法還包括：

在為所述神經網絡中的每個層組的每個輸出張量分配存儲編號之后，根據每個存儲編號對應的存儲區域的大小，計算每個存儲編號對應的存儲區域在所述第一存儲空間中的第一相對地址偏移；

根據每個存儲編號對應層組的輸出張量的大小，計算每個層組的每個輸出張量在各自對應的存儲區域中的第二相對地址偏移；

根據所述第一存儲空間的起始地址、所述第一相對地址偏移和所述第二相對地址偏移，計算每個層組的每個輸出張量在所述第一存儲空間中的存儲地址。

7.如權利要求6所述的存儲空間分配方法，其特征在于，在根據所述第一存儲空間的起始地址、所述第一相對地址偏移和所述第二相對地址偏移，計算每個層組的每個輸出張量在所述第一存儲空間中的存儲地址之后，所述方法還包括：

將每個層組的每個輸出張量在所述第一存儲空間中的存儲地址發送給神經網絡處理器，以指示所述神經網絡處理器計算每個存儲地址對應的地址指針、并按照所述地址指針將所述存儲地址存儲到所述神經網絡處理器內部的第二存儲空間。