[發(fā)明專利]高速緩存的訪問方法以及相關圖神經網絡系統(tǒng)

在審

• 申請?zhí)枺?/td>: 202111373408.X
• 申請日: 2021-11-19
• 公開（公告）號: CN116151338A
• 公開（公告）日: 2023-05-23
• 發(fā)明（設計）人: 張喆;李雙辰;鄭宏忠
• 申請（專利權）人: 平頭哥(上海)半導體技術有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06F12/0844;G06F16/22
• 代理公司: 北京威禾知識產權代理有限公司 11838
• 代理人: 王月玲

本申請公開了一種高速緩存的訪問方法以及相關圖神經網絡系統(tǒng)。所述圖神經網絡處理器用于針對圖神經網絡進行運算，所述圖神經網絡以壓縮稀疏行格式存儲于所述內存中，所述方法包括：接收所述圖神經網絡中的一節(jié)點對應的地址及所述地址的類型；當所述類型為第一類型以及第二類型的其中之一，依據所述地址比對度查找表中的標記欄位來進行查找，以至少得到所述節(jié)點的度；判斷所述度是否大于預設值并得到判斷結果；以及依據所述判斷結果，決定是否在所述高速緩存中對應所述類型的區(qū)域中進行查找。

技術領域

本申請涉及一種高速緩存，尤其涉及一種高速緩存的訪問方法以及相關圖神經網絡系統(tǒng)。

背景技術

在對圖神經網絡(GNN)進行訓練時，對圖神經網絡的訪問過程是非常離散、隨機的。因此，在圖神經網絡系統(tǒng)中，使用通用的高速緩存訪問方法無法得到很高的效率，造成整體訓練及推理時間大幅地增加。因此，如何規(guī)劃圖神經網絡系統(tǒng)中的高速緩存，以及優(yōu)化其訪問方法，已成為本領域亟需解決的問題之一。

發(fā)明內容

本申請的目的之一在于公開一種高速緩存的訪問方法以及相關圖神經網絡系統(tǒng)，來解決上述問題。

本申請的一實施例公開了一種高速緩存的訪問方法，所述高速緩存用于減少圖神經網絡處理器訪問內存的平均時間，所述圖神經網絡處理器用于針對圖神經網絡進行運算，所述圖神經網絡以壓縮稀疏行格式存儲于所述內存中，所述方法包括：接收所述圖神經網絡中的一節(jié)點對應的地址及所述地址的類型；當所述類型為第一類型以及第二類型的其中之一，依據所述地址比對度查找表中的標記欄位來進行查找，以至少得到所述節(jié)點的度，其中所述度為所述節(jié)點的邊的數目；判斷所述度是否大于預設值并得到判斷結果；以及依據所述判斷結果，決定是否在所述高速緩存中對應所述類型的區(qū)域中進行查找，其中所述高速緩存至少包含第一區(qū)域以及第二區(qū)域，其中所述第一區(qū)域對應所述第一類型，所述第二區(qū)域對應所述第二類型，所述第一區(qū)域用來存放和邊相關的信息，所述第二區(qū)域用來存放和屬性相關的信息；其中所述第一類型表示所欲取得的是所述節(jié)點的邊相關的信息，所述第二類型表示所欲取得的是所述節(jié)點的屬性相關的信息。

本申請的一實施例公開了一種圖神經網絡系統(tǒng)，包括：圖神經網絡處理器，用于執(zhí)行上述的方法；度查找表，用來依據所述標記欄位進行查找；高速緩存，至少包含第一區(qū)域以及第二區(qū)域，其中第一區(qū)域對應所述第一類型，第二區(qū)域對應所述第二類型，第一區(qū)域用來存放和邊相關的信息，第二區(qū)域用來存放和屬性相關的信息；以及所述內存。

本申請所公開的高速緩存的訪問方法以及相關圖神經網絡系統(tǒng)能提升圖神經網絡系統(tǒng)中對高速緩存的訪問效率，進而降低整體訓練時間。

附圖說明

圖1為圖神經網絡以壓縮稀疏行格式存儲于內存中的示意圖。

圖2為本申請的圖神經網絡系統(tǒng)的實施例的示意圖。

圖3為本申請的圖神經網絡系統(tǒng)中的度查找表、區(qū)域查找表以及高速緩存的實施例的示意圖。

圖4為本申請的高速緩存的訪問方法的實施例的流程圖。

圖5為本申請的高速緩存的訪問方法中，針對類型為第一類型的方法的實施例的流程圖。

圖6為本申請的高速緩存的訪問方法中，針對類型為第二類型的方法的實施例的流程圖。

圖7為本申請的高速緩存的訪問方法中，針對類型為第三類型的方法的實施例的流程圖。

具體實施方式