[發明專利]用于解決通用AI處理器存儲帶寬效率的動態緩存方法

有效

• 申請號: 202110316851.7
• 申請日: 2021-03-25
• 公開（公告）號: CN112699063B
• 公開（公告）日: 2021-06-22
• 發明（設計）人: 蔡浩田;沈亞明;葛悅飛
• 申請（專利權）人: 軫谷科技（南京）有限公司;寧波軫谷科技有限公司
• 主分類號: G06F12/0886
• 分類號: G06F12/0886;G06F12/0868
• 代理公司: 上海浙晟知識產權代理事務所(普通合伙) 31345
• 代理人: 楊小雙

1.用于解決通用AI處理器存儲帶寬效率的動態緩存方法，其特征在于，在緩存行中增加一個bit的標志位C，數據段被連續儲存在幾個常規的緩存行數據中；讀取緩存數據時按照以下步驟進行數據讀取：

S1、根據CPU給出的讀取指令，判斷是常規數據讀取還是數據段讀取，若是常規數據則按照常規數據讀取步驟讀取，若是數據段讀取則進入S2；

S2、根據數據段起始地址中的index域確定數據段在緩存中的位置；

S3、對比數據段起始地址的tag和緩存中的tag，若一致則進入S4，若不一致則出現緩存未命中；

S4、檢查V位，若V位值為1則是有效緩存數據，進入S5，否則出現緩存未命中；

S5、檢查C位，若C位值為1則是連續儲存的數據段，否則出現緩存未命中；

S6、根據讀取指令需要讀取的數據長度，檢查起始地址后面緩存中的C位，如果連續存儲數據的C位都被置為1，并且數據長度滿足讀取數據長度，則進行連續讀取，否則出現緩存未命中。

2.根據權利要求1所述的用于解決通用AI處理器存儲帶寬效率的動態緩存方法，其特征在于，所述數據段的連續存儲包括直接映射緩存和關聯緩存。

3.根據權利要求2所述的用于解決通用AI處理器存儲帶寬效率的動態緩存方法，其特征在于，所述直接映射緩存中，C位bit值為1時則緩存行儲存的數據是連續數據段的一部分，所述數據段的長度根據設計來調節。

4.根據權利要求2所述的用于解決通用AI處理器存儲帶寬效率的動態緩存方法，其特征在于，所述關聯緩存中在使用數據段緩存時，把一個tag和index組成的地址作為數據段的起始地址，由C位的值來指示數據段在緩存中的位置。

5.根據權利要求4所述的用于解決通用AI處理器存儲帶寬效率的動態緩存方法，其特征在于，所述關聯緩存中，步驟S3對緩存中的多個tag和目標tag進行比較。