[發明專利]多端口排隊高速緩存以及包括其的數據處理系統

在審

• 申請號: 202211643111.5
• 申請日: 2022-12-20
• 公開（公告）號: CN116401182A
• 公開（公告）日: 2023-07-07
• 發明（設計）人: 李憲洙;洪炳喆;樸峻奭;鄭載憲
• 申請（專利權）人: 三星電子株式會社
• 主分類號: G06F12/0811
• 分類號: G06F12/0811;G06F13/38;G06F12/10
• 代理公司: 北京市立方律師事務所 11330
• 代理人: 李娜;鄧思思

提供了一種多端口排隊高速緩存以及包括其的數據處理系統，多端口排隊高速緩存包括：多個第一端口；多個第二端口；多個請求處理機，多個請求處理機分別耦接到多個第一端口；高速緩存存儲器，高速緩存存儲器耦接到多個第二端口；備用接口，備用接口被配置為交換至少一個地址和至少一個備用高速緩存行號；以及請求接口，請求接口被配置為交換至少一個備用高速緩存行號和至少一個數據。備用接口和請求接口設置在多個請求處理機與高速緩存存儲器之間。高速緩存存儲器包括被配置為存儲多個數據的多個高速緩存行。高速緩存存儲器被配置為輸出多個地址中的一部分地址，并且接收與多個地址的一部分地址相對應的多個數據中的一部分數據。

相關申請的交叉引用

本申請要求于2021年12月22日在韓國知識產權局提交的韓國專利申請No.10-2021-0185205和于2022年5月20日在韓國知識產權局提交的韓國專利申請No.10-2022-0062093的優先權的權益，這些韓國專利申請的公開內容通過引用整體地并入本文。

技術領域

本公開涉及半導體集成電路，并且具體地，涉及多端口排隊高速緩存以及包括多端口排隊高速緩存的數據處理系統。

背景技術

相關的數據處理系統可以通過將數據的元素移動到稱為高速緩存的本地高速存儲器中來減輕存儲器訪問延時的影響。例如，數據在它們被需要之前被移動或者預取到高速緩存中，使得它們在被請求時隨時可用。

當執行一般計算(calculation)和/或運算(computation)時，可以不按可預測次序排列數據，并且可以不提前辨識存儲器訪問的次序。因此，為了提高高速緩存效率，可以基于統計信息執行預測，并且可以將基于預測獲得的數據存儲在高速緩存中。然而，由于高速緩存的大小是有限的，所以如果預測已失敗或者如果數據被過早地存儲在高速緩存中，則高速緩存效率可能降低。

相比之下，當執行大規模計算和/或運算(例如，矩陣計算)時，可以按可預測次序排列數據，并且可以按預定次序訪問存儲器。因此，可以將數據存儲在高速緩存中，并且當需要時可以使用所存儲的數據，當不再需要時可以從高速緩存中移除數據，因此可以實現高效的高速緩存。已研究了用于高效的高速緩存的各種方法。

發明內容

本公開提供一種能夠用相對簡單的結構和接口具有相對大的容量和高性能的多端口排隊高速緩存。

本公開提供一種包括所述多端口排隊高速緩存的數據處理系統。

根據本公開的一個方面，一種多端口排隊高速緩存包括多個第一端口、多個第二端口、多個請求處理機、高速緩存存儲器(cache?storage)、備用接口和請求接口。所述多個請求處理機分別耦接到所述多個第一端口。所述多個請求處理機被配置為通過所述多個第一端口接收多個地址，并且通過所述多個第一端口輸出與所述多個地址相對應的多個數據。所述高速緩存存儲器耦接到所述多個第二端口。所述高速緩存存儲器包括被配置為存儲所述多個數據的多個高速緩存行。所述高速緩存存儲器被配置成通過所述多個第二端口輸出所述多個地址中的至少一部分地址，并且通過所述多個第二端口接收與所述多個地址的所述至少一部分地址相對應的所述多個數據中的至少一部分數據。所述備用接口被配置為交換至少一個地址和至少一個備用高速緩存行號。所述請求接口被配置為交換所述至少一個備用高速緩存行號和至少一個數據。所述備用接口和所述請求接口設置在所述多個請求處理機中的每一者與所述高速緩存存儲器之間。