[發(fā)明專(zhuān)利]一種基于Bank劃分的批量?jī)?nèi)存調(diào)度方法

在審

• 申請(qǐng)?zhí)枺?/td>: 201810484718.0
• 申請(qǐng)日: 2018-05-20
• 公開(kāi)（公告）號(hào): CN108733492A
• 公開(kāi)（公告）日: 2018-11-02
• 發(fā)明（設(shè)計(jì)）人: 方娟;汪夢(mèng)萱;李凱;李寶才
• 申請(qǐng)（專(zhuān)利權(quán)）人: 北京工業(yè)大學(xué)
• 主分類(lèi)號(hào): G06F9/50
• 分類(lèi)號(hào): G06F9/50;G06F9/48
• 代理公司: 北京思海天達(dá)知識(shí)產(chǎn)權(quán)代理有限公司 11203
• 代理人: 張慧

1.一種基于Bank劃分的批量?jī)?nèi)存調(diào)度方法，其特征在于，首先，根據(jù)內(nèi)存請(qǐng)求的來(lái)源，分為CPU內(nèi)存請(qǐng)求和GPU內(nèi)存請(qǐng)求，分別合成批緩沖區(qū)請(qǐng)求；其次，在CPU和GPU批緩沖區(qū)中選擇需要處理的批量?jī)?nèi)存請(qǐng)求；如果選擇的是批量GPU內(nèi)存請(qǐng)求，使用行緩沖區(qū)命中優(yōu)先的先來(lái)先服務(wù)的調(diào)度策略來(lái)選擇下一次處理的內(nèi)存請(qǐng)求；如果選擇的是批量CPU內(nèi)存請(qǐng)求，需要對(duì)Bank進(jìn)行劃分，使不同核的訪(fǎng)存請(qǐng)求映射到不同的Bank，隔離多個(gè)CPU應(yīng)用程序的訪(fǎng)存請(qǐng)求。

2.一種基于Bank劃分的批量?jī)?nèi)存調(diào)度方法，其特征在于，包括如下步驟，

步驟1，批量生成

步驟1.1，根據(jù)內(nèi)存請(qǐng)求來(lái)源，為每一個(gè)內(nèi)存請(qǐng)求設(shè)置請(qǐng)求類(lèi)型和內(nèi)核ID字段；

步驟1.2，根據(jù)內(nèi)存請(qǐng)求類(lèi)型，將單個(gè)內(nèi)存請(qǐng)求組合成批緩沖區(qū)請(qǐng)求，由兩個(gè)FIFO結(jié)構(gòu)組成；

步驟2，選擇需要處理的批量?jī)?nèi)存請(qǐng)求，如果是CPU批量?jī)?nèi)存請(qǐng)求，進(jìn)入步驟3，如果是GPU批量?jī)?nèi)存請(qǐng)求，進(jìn)入步驟4；

步驟3，Bank劃分，針對(duì)CPU批量?jī)?nèi)存請(qǐng)求

步驟3.1，監(jiān)控訪(fǎng)存請(qǐng)求，獲取每一個(gè)Bank所接收的訪(fǎng)存行為信息；根據(jù)每一個(gè)內(nèi)存請(qǐng)求設(shè)置的內(nèi)核ID字段，計(jì)算出每一個(gè)CPU應(yīng)用程序的訪(fǎng)問(wèn)請(qǐng)求數(shù)，記為MAPI，以及行命中率，記為RBH；

步驟3.2，應(yīng)用分組。根據(jù)MAPI將CPU應(yīng)用程序劃分為訪(fǎng)存密集型和非密集型兩類(lèi)；根據(jù)RBH將密集型程序分為行命中率高的和行命中率低的兩類(lèi)，最終CPU應(yīng)用程序分為三組，即為訪(fǎng)存非密集組、訪(fǎng)存密集且命中率低組、訪(fǎng)存密集且命中率高組。

步驟3.3，為每個(gè)分組分配Bank訪(fǎng)存范圍；

步驟4，針對(duì)GPU批量?jī)?nèi)存請(qǐng)求，采用行命中率優(yōu)先的先來(lái)先服務(wù)策略選擇下一個(gè)需要處理的GPU內(nèi)存請(qǐng)求。

3.如權(quán)利要求1所述的基于Bank劃分的批量?jī)?nèi)存調(diào)度方法，其特征在于，步驟3.3中，

(1)對(duì)訪(fǎng)存非密集組，優(yōu)先處理并可以訪(fǎng)問(wèn)所有的Bank；

(2)對(duì)于訪(fǎng)存密集且命中率低組，組內(nèi)每?jī)蓚€(gè)應(yīng)用程序共享2個(gè)Bank劃分單元；

(3)對(duì)于訪(fǎng)存密集且命中率高組，組內(nèi)每個(gè)應(yīng)用程序分配一個(gè)Bank劃分單元；

對(duì)于內(nèi)存層次結(jié)構(gòu)中，在一個(gè)有N_cpu個(gè)CPU應(yīng)用，系統(tǒng)有N_channel個(gè)通道，每個(gè)通道有N_rank個(gè)存儲(chǔ)陣列，每個(gè)存儲(chǔ)陣列有N_bank個(gè)存儲(chǔ)體的內(nèi)存系統(tǒng)中，定義劃分單元BPU為：