[發明專利]對數據塊的存儲空間進行復用的方法和相關產品

在審

• 申請號: 202110247330.0
• 申請日: 2021-03-05
• 公開（公告）號: CN112965663A
• 公開（公告）日: 2021-06-15
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 上海寒武紀信息科技有限公司
• 主分類號: G06F3/06
• 分類號: G06F3/06;G06N3/063
• 代理公司: 北京維昊知識產權代理事務所(普通合伙) 11804
• 代理人: 李波;孫新國

本公開提供一種對數據塊的存儲空間進行復用的方法及相關產品，該方法可以實現在計算裝置中，其中計算裝置可以包括在組合處理裝置中，該組合處理裝置還可以包括通用互聯接口和其他處理裝置。所述計算裝置與其他處理裝置進行交互，共同完成用戶指定的計算操作。組合處理裝置還可以包括存儲裝置，該存儲裝置分別與計算裝置和其他處理裝置連接，用于計算裝置和其他處理裝置的數據。

技術領域

本公開涉及計算機領域，更具體地，涉及存儲空間的復用。

背景技術

神經網絡技術最近被普遍的應用，一些硬件廠商開始設計神經網絡處理器來加速神經網絡的計算。對于一個神經網絡處理器來說，片上存儲空間是有限的。隨著神經網絡的深度和寬度的增大，所需要的數據量也在逐漸增大，那么存儲空間的大小有可能將會成為瓶頸，特別在神經網絡的訓練階段，所需的存儲空間是非常巨大的。

神經網絡在運行的過程中，很多數據塊的空間是可以復用。為此，許多框架做了內存管理模塊，以提高內存復用。但是，現有的很多算法容易產生內存碎片，不能充分高效地利用內存。

發明內容

本公開的一個目的在于克服現有技術中在進行空間復用時容易產生內存碎片，空間復用效率較低的缺陷。

根據本公開的第一方面，提供一種對數據塊的存儲空間進行復用的方法，包括：確定多個數據塊之間的沖突關系；根據所述沖突關系來確定存在復用關系的數據塊；調整所述多個數據塊的存儲空間的分配順序，以使得分配順序中在后數據塊能夠復用在前數據塊的存儲空間。

根據本公開的第二方面，提供一種電子設備，包括：一個或多個處理器；以及存儲器，所述存儲器中存儲有計算機可執行指令，當所述計算機可執行指令由所述一個或多個處理器運行時，使得所述電子設備執行如上所述的方法。

根據本公開的第三方面，提供一種計算機可讀存儲介質，包括計算機可執行指令，當所述計算機可執行指令由一個或多個處理器運行時，執行如上所述的方法。

本公開的技術方案能夠取得較高的空間復用率，降低存儲空間的浪費，并且能夠以更快的收斂速度達到相應的空間復用率，特別是對于具有較小存儲空間的邊緣設備而言具有積極的意義。

附圖說明

通過參考附圖閱讀下文的詳細描述，本披露示例性實施方式的上述以及其他目的、特征和優點將變得易于理解。在附圖中，以示例性而非限制性的方式示出了本披露的若干實施方式，并且相同或對應的標號表示相同或對應的部分，其中：

圖1a示出了傳統的神經網絡結構示意圖；

圖1b示出了一個雙核處理器執行的神經網絡結構示意圖；

圖1c示出了示例性的執行流；

圖1d示出了一個示例性的沖突矩陣；

圖2a和圖2b示出了根據本公開一個實施方式的不同復用方法的對比示意圖；

圖3示出了根據本公開的一個實施方式的對數據塊的存儲空間進行復用的方法流程圖；

圖4示出了根據本公開一個實施方式的調整所述多個數據塊的存儲空間的分配順序的流程示意圖；

圖5a示出了根據本公開一個實施方式的為數據塊預分配存儲空間的示意圖；

圖5b示出了根據本公開另一個實施方式的為數據塊預分配存儲空間的示意圖；

圖6a至圖6c示出了另外兩種序列的存儲空間的示例性分配情況；

圖7示出了根據本公開一個實施方式的調整所述數據塊序列中數據塊的順序，以使得存在復用關系的數據塊的連續度最大化的方法流程圖；

圖8示出了調整數據塊序列的示例性圖示；