[發明專利]高速緩存的訪問方法以及相關圖神經網絡系統

在審

• 申請號: 202111373408.X
• 申請日: 2021-11-19
• 公開（公告）號: CN116151338A
• 公開（公告）日: 2023-05-23
• 發明（設計）人: 張喆;李雙辰;鄭宏忠
• 申請（專利權）人: 平頭哥(上海)半導體技術有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06F12/0844;G06F16/22
• 代理公司: 北京威禾知識產權代理有限公司 11838
• 代理人: 王月玲

1.一種高速緩存的訪問方法，所述高速緩存用于減少圖神經網絡處理器訪問內存的平均時間，所述圖神經網絡處理器用于針對圖神經網絡進行運算，其特征在于，所述圖神經網絡以壓縮稀疏行格式存儲于所述內存中，所述方法包括：

接收所述圖神經網絡中的一節點對應的地址及所述地址的類型；

當所述類型為第一類型以及第二類型的其中之一，依據所述地址比對度查找表中的標記欄位來進行查找，以至少得到所述節點的度，其中所述度為所述節點的邊的數目；

判斷所述度是否大于預設值并得到判斷結果；以及

依據所述判斷結果，決定是否在所述高速緩存中對應所述類型的區域中進行查找，其中所述高速緩存至少包含第一區域以及第二區域，其中所述第一區域對應所述第一類型，所述第二區域對應所述第二類型，所述第一區域用來存放和邊相關的信息，所述第二區域用來存放和屬性相關的信息；

其中所述第一類型表示所欲取得的是所述節點的邊相關的信息，所述第二類型表示所欲取得的是所述節點的屬性相關的信息。

2.如權利要求1所述的方法，其特征在于，所述類型為所述第一類型，且依據所述地址比對所述度查找表中的所述標記欄位來進行查找，以得到所述節點的度的步驟包括：

當所述度查找表命中時，從所述度查找表中得到所述節點的度以及偏移量，其中所述偏移量相關于所述節點的邊在所述內存中的起始位置。

3.如權利要求2所述的方法，其特征在于，依據所述判斷結果，決定是否在所述高速緩存中對應所述類型的區域中進行查找的步驟包括：

當所述判斷結果指出對應所述地址的度大于所述預設值時，在所述高速緩存中，依據所述偏移量比對所述第一區域中的標記欄位來進行查找。

4.如權利要求3所述的方法，其特征在于，還包括：

當所述第一區域命中時，從所述第一區域中得到對應所述偏移量的第一指標，所述第一指標用來指向所述高速緩存的數據陣列中，存放所述節點的邊的信息的位置；以及

依據所述第一指標，從所述數據陣列讀取出所述節點的邊的信息。

5.如權利要求3所述的方法，其特征在于，還包括：

當所述第一區域缺失時，訪問所述內存以得到所述節點的邊的信息。

6.如權利要求2所述的方法，其特征在于，其中所述高速緩存還包括第三區域，其中所述第三區域用來存放和聚結的邊相關的信息，以及依據所述判斷結果，決定是否在所述高速緩存中對應所述類型的區域中進行查找的步驟包括：

當所述判斷結果指出對應所述地址的度不大于所述預設值時，在所述高速緩存中，依據所述偏移量比對所述第三區域中的標記欄位來進行查找；以及

所述方法還包括：

當所述第三區域命中時，從所述第三區域中得到對應所述偏移量的第三指標，所述第三指標用來指向所述高速緩存的數據陣列中，存放所述節點的邊的信息的位置；以及

依據所述第三指標，從所述數據陣列讀取出所述節點的邊的信息。

7.如權利要求6所述的方法，其特征在于，還包括：

當所述第三區域缺失時，訪問所述內存以得到所述節點的邊的信息。

8.如權利要求1所述的方法，其特征在于，所述類型為所述第一類型，且所述方法還包括：

當所述度查找表缺失時，訪問所述內存以得到所述節點的偏移量，其中所述偏移量相關于所述節點的邊在所述內存中的起始位置。

9.如權利要求1所述的方法，其特征在于，所述類型為所述第二類型，且依據所述地址比對所述度查找表中的所述標記欄位來進行查找，以得到所述節點的度的步驟包括：

當所述度查找表命中時，從所述度查找表中得到所述節點的度。