[發(fā)明專(zhuān)利]數(shù)據(jù)獲取方法和裝置、電子設(shè)備、處理系統(tǒng)

在審

• 申請(qǐng)?zhí)枺?/td>: 202210126385.0
• 申請(qǐng)日: 2022-02-10
• 公開(kāi)（公告）號(hào): CN114490133A
• 公開(kāi)（公告）日: 2022-05-13
• 發(fā)明（設(shè)計(jì)）人: 冷祥綸;胡英俊
• 申請(qǐng)（專(zhuān)利權(quán)）人: 上海陣量智能科技有限公司
• 主分類(lèi)號(hào): G06F9/54
• 分類(lèi)號(hào): G06F9/54;G06F13/28;G06F13/378
• 代理公司: 北京博思佳知識(shí)產(chǎn)權(quán)代理有限公司 11415
• 代理人: 靳玫

本公開(kāi)實(shí)施例提供一種數(shù)據(jù)獲取方法和裝置、電子設(shè)備、處理系統(tǒng)，其中，處理系統(tǒng)可以包括：至少一個(gè)計(jì)算單元，用于運(yùn)行一個(gè)或多個(gè)線程工作組；系統(tǒng)存儲(chǔ)層次，包括能夠被多個(gè)線程工作組共享訪問(wèn)的目標(biāo)存儲(chǔ)區(qū)；直接存儲(chǔ)器訪問(wèn)DMA控制器，用于控制所述多個(gè)線程工作組對(duì)所述目標(biāo)存儲(chǔ)區(qū)的訪問(wèn)。本公開(kāi)實(shí)施例實(shí)現(xiàn)了不同線程工作組之間的數(shù)據(jù)共享。

技術(shù)領(lǐng)域

本公開(kāi)涉及計(jì)算機(jī)技術(shù)，具體涉及一種數(shù)據(jù)獲取方法和裝置、電子設(shè)備、處理系統(tǒng)。

背景技術(shù)

隨著越來(lái)越多的應(yīng)用對(duì)密集型并行計(jì)算的需求越來(lái)越大，硬件多線程作為最有效提高并行計(jì)算能力的技術(shù)，被廣泛應(yīng)用于神經(jīng)網(wǎng)絡(luò)等人工智能領(lǐng)域。為了高效的執(zhí)行海量線程，相關(guān)技術(shù)中可以將多個(gè)線程組織成線程工作組的形式，通過(guò)控制線程工作組內(nèi)的線程數(shù)量和線程工作組的數(shù)目，以實(shí)現(xiàn)硬件計(jì)算資源的高效利用，其中，可以為每個(gè)線程工作組設(shè)置對(duì)應(yīng)的共享內(nèi)存，該共享內(nèi)存中的數(shù)據(jù)可以被線程工作組中的各個(gè)線程之間共享。然而，不同的線程工作組會(huì)讀入重復(fù)數(shù)據(jù)，系統(tǒng)性能有待進(jìn)一步提升。

發(fā)明內(nèi)容

有鑒于此，本公開(kāi)實(shí)施例至少提供一種數(shù)據(jù)獲取方法和裝置、電子設(shè)備、處理系統(tǒng)。

第一方面，提供一種處理系統(tǒng)，所述系統(tǒng)包括：

至少一個(gè)計(jì)算單元，用于運(yùn)行一個(gè)或多個(gè)線程工作組；

系統(tǒng)存儲(chǔ)層次，包括能夠被多個(gè)線程工作組共享訪問(wèn)的目標(biāo)存儲(chǔ)區(qū)；

直接存儲(chǔ)器訪問(wèn)DMA控制器，用于控制所述多個(gè)線程工作組對(duì)所述目標(biāo)存儲(chǔ)區(qū)的訪問(wèn)。

在一些實(shí)施例中，所述DMA控制器，用于通過(guò)與運(yùn)行所述多個(gè)線程工作組的至少一個(gè)計(jì)算單元之間交互DMA指令，控制所述多個(gè)線程工作組對(duì)所述目標(biāo)存儲(chǔ)區(qū)的訪問(wèn)。

在一些實(shí)施例中，所述DMA控制器，用于記錄所述目標(biāo)存儲(chǔ)區(qū)存儲(chǔ)的目標(biāo)數(shù)據(jù)的信息，其中，所述目標(biāo)數(shù)據(jù)的信息包括下列中的至少一種：所述目標(biāo)數(shù)據(jù)的源地址、所述目標(biāo)數(shù)據(jù)的擁有線程工作組的信息、所述目標(biāo)數(shù)據(jù)的至少一個(gè)共享線程工作組的信息、所述目標(biāo)數(shù)據(jù)的至少一個(gè)訪問(wèn)線程工作組的數(shù)量。

在一些實(shí)施例中，所述計(jì)算單元，用于向所述DMA控制器發(fā)送數(shù)據(jù)查詢(xún)指令，所述數(shù)據(jù)查詢(xún)指令用于查詢(xún)所述目標(biāo)存儲(chǔ)區(qū)是否存儲(chǔ)有目標(biāo)數(shù)據(jù)；所述DMA控制器，用于基于所述數(shù)據(jù)查詢(xún)指令，確定所述目標(biāo)存儲(chǔ)區(qū)當(dāng)前是否存儲(chǔ)有所述目標(biāo)數(shù)據(jù)，并向所述計(jì)算單元返回查詢(xún)結(jié)果。

在一些實(shí)施例中，計(jì)算單元，還用于在根據(jù)所述查詢(xún)結(jié)果確定所述目標(biāo)存儲(chǔ)區(qū)當(dāng)前未存儲(chǔ)有目標(biāo)數(shù)據(jù)的情況下，向所述DMA控制器發(fā)送數(shù)據(jù)加載指令，所述數(shù)據(jù)加載指令中包括：所述目標(biāo)數(shù)據(jù)的源地址信息；所述DMA控制器，用于根據(jù)所述計(jì)算單元發(fā)送的數(shù)據(jù)加載指令，將所述目標(biāo)數(shù)據(jù)由所述源地址信息對(duì)應(yīng)的地址傳輸?shù)剿瞿繕?biāo)存儲(chǔ)區(qū)。

在一些實(shí)施例中，所述DMA控制器，還用于：在確定使用所述目標(biāo)數(shù)據(jù)的至少一個(gè)線程工作組已結(jié)束對(duì)所述目標(biāo)數(shù)據(jù)的使用的情況下，回收所述目標(biāo)存儲(chǔ)區(qū)中目標(biāo)數(shù)據(jù)的存儲(chǔ)空間。

在一些實(shí)施例中，所述DMA控制器，用于：記錄使用所述目標(biāo)數(shù)據(jù)的至少一個(gè)線程工作組的數(shù)據(jù)使用狀態(tài)，所述數(shù)據(jù)使用狀態(tài)用于表示所述線程工作組是否結(jié)束數(shù)據(jù)使用；并在根據(jù)所述數(shù)據(jù)使用狀態(tài)確定使用所述目標(biāo)數(shù)據(jù)的至少一個(gè)線程工作組已結(jié)束對(duì)目標(biāo)數(shù)據(jù)使用的情況下，執(zhí)行對(duì)所述目標(biāo)存儲(chǔ)區(qū)中目標(biāo)數(shù)據(jù)的存儲(chǔ)空間的回收處理。

在一些實(shí)施例中，所述計(jì)算單元，用于向DMA控制器發(fā)送使用結(jié)束指令，所述使用結(jié)束指令用于表示所述線程工作組已結(jié)束對(duì)所述目標(biāo)數(shù)據(jù)的使用；所述DMA控制器，還用于根據(jù)所述使用結(jié)束指令更新所述目標(biāo)數(shù)據(jù)的信息，所述目標(biāo)數(shù)據(jù)的信息用于輔助確定線程工作組是否已結(jié)束對(duì)目標(biāo)數(shù)據(jù)的使用。

在一些實(shí)施例中，所述計(jì)算單元，用于向所述DMA控制器發(fā)送數(shù)據(jù)回收指令，所述數(shù)據(jù)回收指令用于請(qǐng)求回收所述目標(biāo)存儲(chǔ)區(qū)存儲(chǔ)的目標(biāo)數(shù)據(jù)；所述DMA控制器，用于根據(jù)所述數(shù)據(jù)回收指令，回收所述目標(biāo)存儲(chǔ)區(qū)中目標(biāo)數(shù)據(jù)的存儲(chǔ)空間。