[發明專利]一種內存預取方法、裝置及介質

在審

• 申請號: 202210856823.9
• 申請日: 2022-07-20
• 公開（公告）號: CN115203073A
• 公開（公告）日: 2022-10-18
• 發明（設計）人: 譚玉娟;張智超;馬竹琳;劉鐸
• 申請（專利權）人: 重慶大學
• 主分類號: G06F12/0862
• 分類號: G06F12/0862;G06F12/06;G06K9/62;G06N3/04;G06N3/08
• 代理公司: 廣州三環專利商標代理有限公司 44202
• 代理人: 李妙芬

1.一種內存預取方法，其特征在于，包括：

獲取混合內存中歷史一段時間內的I/O訪問記錄，得到內存訪問數據訓練集；其中，所述I/O訪問記錄包括每次訪問的訪問地址及訪問類型；

對內存訪問數據訓練集進行預處理，得到訪問頁面差值序列和訪問類型序列；其中，所述預處理包括對相鄰訪問記錄的訪問地址所在頁面進行差值計算；

將所述訪問頁面差值序列和所述訪問類型序列輸入到預先建立的基于注意力機制的TCN模型中訓練，得到內存訪問預測模型；

對當前發生的I/O訪問進行預處理，得到當前地址頁差值和當前訪問類型，并將所述當前地址頁差值和所述當前訪問類型輸入到所述內存訪問預測模型中，得到當前預測的下一時間步長的地址頁差值和訪問類型；

根據所述當前預測的下一時間步長的地址頁差值和訪問類型，確定待預取到所述混合內存中的地址頁。

2.如權利要求1所述的內存預取方法，其特征在于，所述基于注意力機制的TCN模型包括輸入模塊、TCN模塊和輸出模塊；其中，

所述輸入模塊用于將輸入的所述訪問頁面差值序列和所述訪問類型序列進行拼接，且拼接前對所述訪問頁面差值序列進行詞嵌入處理和編碼處理，和對所述訪問類型序列進行詞嵌入處理；

所述TCN模塊用于提取拼接后的構建的訪問頁面差值序列和訪問類型序列的特征，并通過引入自注意力模塊學習訪問頁面差值序列中各時間節點之間的相關性；

所述輸出模塊用于將輸入的數據流分成2個處理流，分別對應地址頁差值的預測和訪問類型的預測。

3.如權利要求1所述的內存預取方法，其特征在于，所述基于注意力機制的TCN模型采用的擴張值、卷積核大小、卷積層層數與感受野的關系如下：

其中，RF表示感受野，k為因果空洞卷積的卷積核大小，d為擴張值，n為因果卷積層的層數。

4.如權利要求1所述的內存預取方法，其特征在于，所述根據所述當前預測的下一時間步長的地址頁差值和訪問類型，確定待預取到所述混合內存中的地址頁，具體包括：

根據上一時間步長預測得到的地址頁差值和當前預測的下一時間步長的地址頁差值，得到當前預測的下一時間步長的地址頁；

根據當前預測的下一時間步長的訪問類型，將所述當前預測的下一時間步長的地址頁預取到混合內存對應的存儲介質中。

5.一種內存預取裝置，其特征在于，包括：

訓練集獲取模塊，用于獲取混合內存中歷史一段時間內的I/O訪問記錄，得到內存訪問數據訓練集；其中，所述I/O訪問記錄包括每次訪問的訪問地址及訪問類型；

預處理模塊，用于對內存訪問數據訓練集進行預處理，得到訪問頁面差值序列和訪問類型序列；其中，所述預處理包括對相鄰訪問記錄的訪問地址所在頁面進行差值計算；

訓練模塊，用于將所述訪問頁面差值序列和所述訪問類型序列輸入到預先建立的基于注意力機制的TCN模型中訓練，得到內存訪問預測模型；

預測模塊，用于對當前發生的I/O訪問進行預處理，得到當前地址頁差值和當前訪問類型，并將所述當前地址頁差值和所述當前訪問類型輸入到所述內存訪問預測模型中，得到當前預測的下一時間步長的地址頁差值和訪問類型；

預取模塊，用于根據所述當前預測的下一時間步長的地址頁差值和訪問類型，確定待預取到所述混合內存中的地址頁。

6.如權利要求5所述的內存預取裝置，其特征在于，所述基于注意力機制的TCN模型包括輸入模塊、TCN模塊和輸出模塊；其中，

所述輸入模塊用于將輸入的所述訪問頁面差值序列和所述訪問類型序列進行拼接，且拼接前對所述訪問頁面差值序列進行詞嵌入處理和編碼處理，和對所述訪問類型序列進行詞嵌入處理；

所述TCN模塊用于提取拼接后的構建的訪問頁面差值序列和訪問類型序列的特征，并通過引入自注意力模塊學習訪問頁面差值序列中各時間節點之間的相關性；

所述輸出模塊用于將輸入的數據流分成2個處理流，分別對應地址頁差值的預測和訪問類型的預測。