[發(fā)明專利]多個線程的存儲器訪問方法及系統(tǒng)

有效

• 申請?zhí)枺?/td>: 201711236620.5
• 申請日: 2017-11-30
• 公開（公告）號: CN108205500B
• 公開（公告）日: 2021-02-23
• 發(fā)明（設計）人: 范博鈞;叢培貴;蔡松芳;周嘉賢;賴守仁
• 申請（專利權(quán)）人: 聯(lián)發(fā)科技股份有限公司
• 主分類號: G06F12/02
• 分類號: G06F12/02
• 代理公司: 北京市萬慧達律師事務所 11111
• 代理人: 白華勝;王蕊

提供了一種管理多個線程的片上存儲器訪問的系統(tǒng)。該系統(tǒng)包括：多個并行的處理器單元，用以執(zhí)行所述多個線程；片上存儲器，包括多個存儲器單元且每個所述多個存儲器單元包括第一區(qū)域和第二區(qū)域，其中所述第一區(qū)域和所述第二區(qū)域具有不同的存儲器尋址方案，用于由所述多個線程的并行訪問；以及地址解碼器，耦合于所述多個并行處理單元和所述片上存儲器，所述地址解碼器根據(jù)來自所述多個并行處理單元的解碼的多個地址信號，激活所述多個線程對所述第一區(qū)域和第二區(qū)域其中之一的多個存儲器位置的訪問。

相關(guān)申請

本申請要求遞交于2016年12月20日的號碼為62/436，487的美國臨時申請案的優(yōu)先權(quán)，其整體通過引用的方式納入本文當中。

技術(shù)領(lǐng)域

本發(fā)明實施例涉及片上存儲器在并行計算系統(tǒng)中的尋址和訪問。

背景技術(shù)

存儲器子系統(tǒng)的設計對存儲器訪問速度有著明顯的影響。頻繁被訪問的數(shù)據(jù)可以存儲在芯片上，例如在高速緩沖存儲器(cache)、緩沖區(qū)(buffer)或者其他低延時(low-latency)的存儲設備。較不頻繁使用的數(shù)據(jù)或者預測為較不頻繁使用的數(shù)據(jù)可以存儲在片外存儲器當中，如動態(tài)隨機存取存儲器(dynamic random access memory，簡寫為DRAM)，硬盤驅(qū)動器(hard drive)或者其他高容量的存儲設備，這些高容量的存儲設備一般具有相比于片上存儲器更高延時和更低的速度。

在并行計算系統(tǒng)中(parallel computing system)，處理器可以包括多個線程(multiple threads)，且該多個線程可以同時訪問一個片上存儲器(on-chip memory)。當片上存儲器支持向量化(vectorized)數(shù)據(jù)訪問的時候會增加存儲器的帶寬(bandwidth)，例如：當該多個線程連續(xù)地訪問存儲于片上存儲器的數(shù)據(jù)陣列中數(shù)據(jù)元素的時候。然而，不同的并行運算需要不同的存儲器訪問模式。例如，在一個直方圖計算中，每個線程可能被給予更新存儲空間值(bin value)的任務，該存儲空間值表示具有給定像素值范圍的像素的數(shù)量。該線程可以并行地處理像素值，但是存儲于對應的多個存儲空間中的存儲器位置可能并不遵循一個統(tǒng)一模式。因此，在直方圖計算期間，在多個線程的存儲器訪問中經(jīng)常有沖突出現(xiàn)。

因此，需要在并行計算系統(tǒng)中提高存儲器訪問的效率。

發(fā)明內(nèi)容

在一個實施例中，提供一個管理片上存儲器由多線程訪問的系統(tǒng)。系統(tǒng)包括：多個并行的處理器單元，用以執(zhí)行所述多個線程；片上存儲器，包括多個存儲器單元且每個所述多個存儲器單元包括第一區(qū)域和第二區(qū)域，其中所述第一區(qū)域和所述第二區(qū)域具有不同的存儲器尋址方案，用于所述多個線程的并行訪問；以及地址解碼器，耦合于所述多個并行處理單元和所述片上存儲器，所述地址解碼器根據(jù)來自所述多個并行處理單元的解碼的多個地址信號，激活所述多個線程對所述第一區(qū)域和所述第二區(qū)域其中之一的多個存儲器位置的訪問。

在另一個實施例中，提供了一個可執(zhí)行存儲器分配的系統(tǒng)。系統(tǒng)包括：多個并行處理器單元；片上儲存器，包括多個存儲器單元且每個所述多個存儲器單元包括第一區(qū)域和第二區(qū)域，其中所述第一區(qū)域和所述第二區(qū)域具有不同的存儲器尋址方案，用于由所述多個線程的并行訪問；以及地址解碼器，耦合于所述多個并行處理單元和所述片上處理器，所述地址解碼器用于：接收來自于所述多個線程去并行訪問片上存儲器的多個請求，每個請求指定用于存儲器訪問的被請求的地址，每個請求指定用于存儲器訪問的被請求的地址；根據(jù)所述第一區(qū)域和所述第二區(qū)域之間的分界線，確定所述被請求的地址是否在所述片上存儲器的所述第一區(qū)域或者所述第二區(qū)域之中；激活所述多個線程對所述第一區(qū)域和所述第二區(qū)域其中之一的多個存儲器位置的訪問。