[發(fā)明專利]用于存儲(chǔ)器處理單元架構(gòu)的層間通信技術(shù)

在審

• 申請(qǐng)?zhí)枺?/td>: 202180042480.6
• 申請(qǐng)日: 2021-08-31
• 公開(kāi)（公告）號(hào): CN115803811A
• 公開(kāi)（公告）日: 2023-03-14
• 發(fā)明（設(shè)計(jì)）人: J·博蒂默爾;M·施丹;C·劉;T·韋斯利;盧偉
• 申請(qǐng)（專利權(quán)）人: 麥姆瑞克斯公司
• 主分類(lèi)號(hào): G11C7/10
• 分類(lèi)號(hào): G11C7/10
• 代理公司: 北京市磐華律師事務(wù)所 11336
• 代理人: 徐愛(ài)萍

存儲(chǔ)器處理單元(MPU)可以包括第一存儲(chǔ)器、第二存儲(chǔ)器、多個(gè)處理區(qū)域以及控制邏輯。第一存儲(chǔ)器可以包括多個(gè)區(qū)域。多個(gè)處理區(qū)域可在第一存儲(chǔ)器的所述多個(gè)區(qū)域之間交錯(cuò)。處理區(qū)域可以包括多個(gè)計(jì)算核心。第二存儲(chǔ)器可被耦合至多個(gè)處理區(qū)域。控制邏輯可配置處理區(qū)域中的一個(gè)或更多個(gè)處理區(qū)域的計(jì)算核心與第一存儲(chǔ)器的對(duì)應(yīng)相鄰區(qū)域之間的數(shù)據(jù)流。控制邏輯還可配置第二存儲(chǔ)器與處理區(qū)域中的一個(gè)或更多個(gè)處理區(qū)域的計(jì)算核心之間的數(shù)據(jù)流。控制邏輯還可配置處理區(qū)域中的一個(gè)或更多個(gè)相應(yīng)處理區(qū)域內(nèi)的計(jì)算核心之間的數(shù)據(jù)流。

相關(guān)申請(qǐng)的交叉引用

本申請(qǐng)要求2020年8月31日提交的美國(guó)臨時(shí)專利申請(qǐng)No.63/072,904的權(quán)益，其全部?jī)?nèi)容合并在本文中。

背景技術(shù)

計(jì)算系統(tǒng)已經(jīng)對(duì)現(xiàn)代社會(huì)的進(jìn)步作出了重大貢獻(xiàn)，并且被用于許多應(yīng)用中以實(shí)現(xiàn)有利的結(jié)果。諸如人工智能、機(jī)器學(xué)習(xí)、大數(shù)據(jù)分析等的應(yīng)用對(duì)大量數(shù)據(jù)執(zhí)行計(jì)算。在常規(guī)計(jì)算系統(tǒng)中，將數(shù)據(jù)從存儲(chǔ)器傳送到一個(gè)或更多個(gè)處理單元，處理單元對(duì)數(shù)據(jù)執(zhí)行計(jì)算，然后將結(jié)果傳送回存儲(chǔ)器。將大量數(shù)據(jù)從存儲(chǔ)器傳送到處理單元并傳送回存儲(chǔ)器需要時(shí)間和消耗功率。因此，存在對(duì)減少處理延遲、數(shù)據(jù)延遲和/或功率消耗的改進(jìn)的計(jì)算系統(tǒng)的持續(xù)需求。

發(fā)明內(nèi)容

通過(guò)參考以下描述和附圖可以最好地理解本技術(shù)，所述描述和附圖用于示出針對(duì)用于存儲(chǔ)器處理架構(gòu)的層間通信技術(shù)的本技術(shù)的實(shí)施例。

在一個(gè)實(shí)施例中，存儲(chǔ)器處理單元(MPU)可以包括第一存儲(chǔ)器、多個(gè)處理區(qū)域以及一個(gè)或更多個(gè)層間通信(ILC)模塊。第一存儲(chǔ)器可以包括多個(gè)區(qū)域。所述多個(gè)處理區(qū)域可在第一存儲(chǔ)器的所述多個(gè)區(qū)域之間交錯(cuò)。所述處理區(qū)域可以包括多個(gè)計(jì)算核心，其中所述多個(gè)處理區(qū)域中的每個(gè)相應(yīng)處理區(qū)域的所述多個(gè)計(jì)算核心中的每個(gè)計(jì)算核心被耦合在第一多個(gè)存儲(chǔ)器區(qū)域中的相鄰存儲(chǔ)器區(qū)域之間。所述一個(gè)或更多個(gè)ILC模塊可通信地耦合至所述多個(gè)處理區(qū)域中的每一個(gè)處理區(qū)域中的所述多個(gè)計(jì)算核心，其中所述一個(gè)或更多個(gè)ILC模塊能配置成控制計(jì)算核心之間的通過(guò)所述第一存儲(chǔ)器的所述多個(gè)區(qū)域中的對(duì)應(yīng)相鄰區(qū)域的通信。

在另一個(gè)實(shí)施例中，存儲(chǔ)器處理單元(MPU)層間通信方法可以包括從相應(yīng)的計(jì)算核心接收同步命令。同步命令與計(jì)算核心對(duì)第一存儲(chǔ)器的多個(gè)區(qū)域中的相應(yīng)區(qū)域的緩沖區(qū)的訪問(wèn)請(qǐng)求(例如，讀/寫(xiě))有關(guān)，其中緩沖區(qū)是生產(chǎn)者計(jì)算核心和消費(fèi)者計(jì)算核心之間的共享存儲(chǔ)器區(qū)域。可以跟蹤對(duì)第一存儲(chǔ)器的多個(gè)區(qū)域中的相應(yīng)區(qū)域的相應(yīng)緩沖區(qū)的訪問(wèn)。可以基于與第一存儲(chǔ)器的多個(gè)區(qū)域中的相應(yīng)區(qū)域的緩沖區(qū)相關(guān)聯(lián)的相應(yīng)讀取和寫(xiě)入訪問(wèn)跟蹤來(lái)控制相應(yīng)計(jì)算核心對(duì)第一存儲(chǔ)器的多個(gè)區(qū)域中的相應(yīng)區(qū)域的緩沖區(qū)的訪問(wèn)。

提供本概述以便以簡(jiǎn)化形式介紹將在以下詳細(xì)說(shuō)明中進(jìn)一步描述的一些概念的選擇。本概述并不旨在標(biāo)識(shí)所要求保護(hù)的主題的關(guān)鍵特征或必要特征，也不旨在用于限制所要求保護(hù)的主題的范圍。

附圖說(shuō)明

在附圖中通過(guò)舉例而非限制的方式展示了本技術(shù)的多個(gè)實(shí)施例，并且其中，相同的附圖標(biāo)記指代類(lèi)似的元件，并且其中：

圖1示出了根據(jù)本技術(shù)的各方面的存儲(chǔ)器處理單元(MPU)。

圖2示出了根據(jù)本技術(shù)的各方面的存儲(chǔ)器處理方法。

圖3示出了根據(jù)本技術(shù)的各方面的存儲(chǔ)器處理單元。

圖4示出了根據(jù)本技術(shù)的各方面的層間通信方法。

圖5示出了根據(jù)本技術(shù)的各方面的相應(yīng)的共享緩沖區(qū)和對(duì)應(yīng)的相應(yīng)ILC條目索引。

圖6示出了根據(jù)本技術(shù)的各方面的對(duì)相應(yīng)ILC條目索引中的共享相應(yīng)緩沖區(qū)的訪問(wèn)的跟蹤。

圖7示出了根據(jù)本技術(shù)的各方面的存儲(chǔ)器處理單元中的數(shù)據(jù)流的配置。

圖8A-8C示出了根據(jù)本技術(shù)的各方面的多個(gè)輸出特征圖像素的示例性計(jì)算。