[發(fā)明專利]控制任務(wù)集中的任務(wù)并行的系統(tǒng)及其方法

在審

• 申請(qǐng)?zhí)枺?/td>: 202010065550.7
• 申請(qǐng)日: 2020-01-20
• 公開（公告）號(hào): CN111158890A
• 公開（公告）日: 2020-05-15
• 發(fā)明（設(shè)計(jì)）人: 李新奇;柳俊丞;袁進(jìn)輝
• 申請(qǐng)（專利權(quán)）人: 北京一流科技有限公司
• 主分類號(hào): G06F9/48
• 分類號(hào): G06F9/48
• 代理公司: 北京金訊知識(shí)產(chǎn)權(quán)代理事務(wù)所(特殊普通合伙) 11554
• 代理人: 黃劍飛

本發(fā)明公開了一種控制任務(wù)集中的任務(wù)并行的系統(tǒng)，包括：臨界區(qū)分析組件，用于分析一個(gè)任務(wù)集中的任意兩個(gè)任務(wù)之間臨界區(qū)，并為分析獲得的所述臨界區(qū)賦予預(yù)定臨界區(qū)標(biāo)記，形成所述任務(wù)集中的臨界區(qū)標(biāo)記關(guān)系圖表，所述臨界區(qū)是所述任意兩個(gè)任務(wù)之間的內(nèi)存共享部分，所述臨界區(qū)標(biāo)記關(guān)系圖表記載任意兩個(gè)臨界區(qū)的互斥關(guān)系；以及臨界區(qū)監(jiān)控組件，其位于每個(gè)任務(wù)實(shí)例數(shù)據(jù)處理路徑中，用于對(duì)于多個(gè)被執(zhí)行的任務(wù)實(shí)例，基于臨界區(qū)標(biāo)記關(guān)系圖表，允許執(zhí)行存在互斥關(guān)系中一對(duì)臨界區(qū)中的先到達(dá)的一個(gè)臨界區(qū)而使得另一個(gè)臨界區(qū)處于等待執(zhí)行狀態(tài)。

技術(shù)領(lǐng)域

本公開涉及一種數(shù)據(jù)處理技術(shù)，更具體地說，本公開涉及一種用于控制任務(wù)集中的任務(wù)并行的系統(tǒng)及其方法。

背景技術(shù)

大數(shù)據(jù)的處理意向復(fù)雜的數(shù)據(jù)處理技術(shù)。為了提高數(shù)據(jù)處理的效率，通常將一個(gè)數(shù)據(jù)處理工作分成多項(xiàng)任務(wù)，并在集成計(jì)算架構(gòu)中分別由CPU、與CPU相連的GPU來承擔(dān)計(jì)算任務(wù)，這些計(jì)算任務(wù)會(huì)根據(jù)彼此之間的時(shí)序關(guān)系被進(jìn)行并行計(jì)算。但是有時(shí)候，很多任務(wù)之間存在彼此的依賴關(guān)系，例如第一任務(wù)的計(jì)算所需的某些數(shù)據(jù)也會(huì)被第二任務(wù)的計(jì)算所使用；或者第一任務(wù)的計(jì)算所產(chǎn)生的某些數(shù)據(jù)會(huì)被第二任務(wù)的計(jì)算所使用。因此，在兩者之間存在數(shù)據(jù)使用沖突過程中，必然導(dǎo)致第一任務(wù)執(zhí)行時(shí)，第二任務(wù)不能執(zhí)行，導(dǎo)致一種停機(jī)現(xiàn)象。反之亦然。因此，任務(wù)并行只能在不相關(guān)的任務(wù)執(zhí)行，這將導(dǎo)致的不能并行的任務(wù)之間的切換以任務(wù)整體為單位進(jìn)行，這在大數(shù)據(jù)處理或深度學(xué)習(xí)這種數(shù)據(jù)處理過程中，以任務(wù)整體為單位的這種切換，這種任務(wù)切換的成本就是所有計(jì)算設(shè)備的同步開銷。當(dāng)計(jì)算設(shè)備的數(shù)目達(dá)到1024甚至更高的時(shí)候，任務(wù)切換點(diǎn)會(huì)成為整個(gè)計(jì)算系統(tǒng)的巨大瓶頸，因?yàn)樗袛?shù)據(jù)同步的時(shí)候，幾乎所有的計(jì)算操作將無法進(jìn)行，這個(gè)過程需要花費(fèi)巨大的時(shí)間。因此，以任務(wù)為單位的這種同步以及任務(wù)的切換會(huì)不可避免的帶來開銷，而且這個(gè)開銷隨著集成的計(jì)算設(shè)備(例如CPU和GPU)的增多而開銷會(huì)是指數(shù)級(jí)增長(zhǎng)的,這將導(dǎo)致計(jì)算資源得不到充分地利用，也降低了數(shù)據(jù)處理的效率。

因此，人們期望獲得一種控制任務(wù)集中的任務(wù)并行的系統(tǒng)，其能夠消除上述現(xiàn)有技術(shù)中的一種或多種技術(shù)問題，提高任務(wù)并行程度。

發(fā)明內(nèi)容

本發(fā)明的目的在于解決至少上述問題之一，具體而言，本公開提供一種控制任務(wù)集中的任務(wù)并行的系統(tǒng)，包括：臨界區(qū)分析組件，用于分析一個(gè)任務(wù)集中的任意兩個(gè)任務(wù)之間臨界區(qū)，并為分析獲得的所述臨界區(qū)賦予預(yù)定臨界區(qū)標(biāo)記，形成所述任務(wù)集中的臨界區(qū)標(biāo)記關(guān)系圖表，所述臨界區(qū)是所述任意兩個(gè)任務(wù)之間的內(nèi)存共享部分，所述臨界區(qū)標(biāo)記關(guān)系圖表記載任意兩個(gè)臨界區(qū)的互斥關(guān)系；以及臨界區(qū)監(jiān)控組件，其位于每個(gè)任務(wù)實(shí)例數(shù)據(jù)處理路徑中，用于對(duì)于多個(gè)被執(zhí)行的任務(wù)實(shí)例，基于臨界區(qū)標(biāo)記關(guān)系圖表，允許執(zhí)行存在互斥關(guān)系中一對(duì)臨界區(qū)中的先到達(dá)的一個(gè)臨界區(qū)而使得另一個(gè)臨界區(qū)處于等待執(zhí)行狀態(tài)。

根據(jù)本公開的控制任務(wù)集中的任務(wù)并行的系統(tǒng)，其中所述臨界區(qū)監(jiān)控組件將第一任務(wù)實(shí)例中的可立即或正在執(zhí)行的第一臨界區(qū)的臨界區(qū)標(biāo)記排列第一臨界區(qū)監(jiān)控隊(duì)列中以及將第二任務(wù)實(shí)例的不能與第一臨界區(qū)同時(shí)執(zhí)行的第二臨界區(qū)的臨界區(qū)標(biāo)記排列在第二臨界區(qū)監(jiān)控隊(duì)列中，以及監(jiān)控第一臨界區(qū)的執(zhí)行操作是否完成，以便在第一臨界區(qū)的執(zhí)行操作完成后，將第一臨界區(qū)的臨界區(qū)標(biāo)記移出第一臨界區(qū)監(jiān)控隊(duì)列，并將第二臨界區(qū)的臨界區(qū)標(biāo)記從第二臨界區(qū)監(jiān)控隊(duì)列移動(dòng)到第一臨界區(qū)監(jiān)控隊(duì)列中。

根據(jù)本公開的控制任務(wù)集中的任務(wù)并行的系統(tǒng)，其中所述臨界區(qū)標(biāo)記包括臨界區(qū)ID及源節(jié)點(diǎn)和匯節(jié)點(diǎn)。

根據(jù)本公開的控制任務(wù)集中的任務(wù)并行的系統(tǒng)，其中所述臨界區(qū)監(jiān)控組件通過從第一臨界區(qū)的所述匯節(jié)點(diǎn)接收到消息來監(jiān)控第一臨界區(qū)被執(zhí)行操作完成狀態(tài)，并在從所述匯節(jié)點(diǎn)接收到消息后向第二任務(wù)實(shí)例的臨界區(qū)的源節(jié)點(diǎn)發(fā)出消息。

根據(jù)本公開的控制任務(wù)集中的任務(wù)并行的系統(tǒng)，其中所述臨界區(qū)為輸入臨界區(qū)、輸出臨界區(qū)或主體臨界區(qū)。