[發(fā)明專利]任務調(diào)度方法、裝置、電子設備及計算機可讀存儲介質(zhì)

在審

• 申請?zhí)枺?/td>: 202010141104.X
• 申請日: 2020-03-04
• 公開（公告）號: CN113360186A
• 公開（公告）日: 2021-09-07
• 發(fā)明（設計）人: 不公告發(fā)明人
• 申請（專利權）人: 北京希姆計算科技有限公司
• 主分類號: G06F9/38
• 分類號: G06F9/38;G06F9/50
• 代理公司: 北京竹辰知識產(chǎn)權代理事務所(普通合伙) 11706
• 代理人: 聶鵬

本公開實施例公開了一種任務調(diào)度方法、裝置、電子設備和計算機可讀存儲介質(zhì)。其中該任務調(diào)度方法包括：響應于執(zhí)行到任務段分配指令，所述微處理器指示發(fā)送任務段至所述處理核，其中所述任務段為所述任務的一部分；響應于執(zhí)行完所述任務段，所述處理核發(fā)送任務段更新消息至所述微處理器；響應于接收到所述任務段更新消息，所述微處理器執(zhí)行所述任務段分配指令以指示發(fā)送下一任務段至所述處理核，所述任務段分配指令為所述微處理器根據(jù)所述任務段更新消息配置后生成的指令。通過上述方法中芯片中的微處理器分配和更新處理核的任務段,解決了現(xiàn)有技術中的處理核的任務調(diào)度不靈活、控制復雜的技術問題。

技術領域

本公開涉及處理器領域，尤其涉及一種任務調(diào)度方法、裝置、電子設備及計算機可讀存儲介質(zhì)。

背景技術

隨著科學技術的發(fā)展，人類社會正在快速進入智能時代。智能時代的重要特點，就是人們獲得數(shù)據(jù)的種類越來越多，獲得數(shù)據(jù)的量越來越大，而對處理數(shù)據(jù)的速度要求越來越高。芯片是任務調(diào)度的基石，它從根本上決定了人們處理數(shù)據(jù)的能力。從應用領域來看，芯片主要有兩條路線：一條是通用芯片路線，例如CPU等，它們能提供極大的靈活性，但是在處理特定領域算法時有效算力比較低；另一條是專用芯片路線，例如TPU等，它們在某些特定領域，能發(fā)揮較高的有效算力，但是面對靈活多變的比較通用的領域，它們處理能力比較差甚至無法處理。由于智能時代的數(shù)據(jù)種類繁多且數(shù)量巨大，所以要求芯片既具有極高的靈活性，能處理不同領域且日新月異的算法，又具有極強的處理能力，能快速處理極大的且急劇增長的數(shù)據(jù)量。

在神經(jīng)網(wǎng)絡計算中，經(jīng)常會用到多核或者眾核的芯片。如何讓眾多的處理核能夠高效率的發(fā)揮算力，是決定整個芯片性能的關鍵。各處理核的算力發(fā)揮，取決于多種因素，例如任務的調(diào)度與分配、芯片的架構、處理核的結構、處理核的電路等。其中任務的調(diào)度與分配是一個非常關鍵的因素，如果任務的調(diào)度與分配合理，則能充分發(fā)揮各處理核的有效算力。

現(xiàn)有技術中一般使用以下兩種方案來進行處理核任務的調(diào)度：

如圖1a所示為使用調(diào)度器進行任務調(diào)度的方案。在該方案中，調(diào)度器接收到來自于指令源的指令，然后將指令按一定的策略，如順序，傳輸給各處理核，各處理核執(zhí)行相同的指令，但是處理不同的數(shù)據(jù)。各處理核可以是比較簡單的結構，例如共用控制電路和寄存器的SIMD(Single Instruction Multiple Data，單指令多數(shù)據(jù)結構)，也可以是比較復雜有一定的自主性的結構，例如有獨立的控制電路和寄存器等的SIMT(Single InstructionMultiple Threads，單指令多線程)。但是該方案中，調(diào)度器只能被動的從外部指令源接收指令，再分配給各處理核，功能單一，且缺乏靈活性；而無論是SIMD結構還是SIMT結構，各處理核只能執(zhí)行相同的指令，各處理核的自由度小，控制簡單。

如圖1b所示為處理核獨立執(zhí)行任務的方案。在該方案中，各處理核能夠從存儲器中獨立讀取指令，進行運算；各處理核具有完整的控制電路、寄存器組等電路。而對于這種方案，各處理核難以互相配合高效的完成一個完整的任務；電路控制復雜，每一個核都幾乎是一個完整的CPU，設計難度大，且功耗和面積大；多處理核可能頻繁訪問指令存儲區(qū)，引起存儲訪問效率的下降，進而影響芯片算力的發(fā)揮。

發(fā)明內(nèi)容

提供該發(fā)明內(nèi)容部分以便以簡要的形式介紹構思，這些構思將在后面的具體實施方式部分被詳細描述。該發(fā)明內(nèi)容部分并不旨在標識要求保護的技術方案的關鍵特征或必要特征，也不旨在用于限制所要求的保護的技術方案的范圍。

為了解決現(xiàn)有技術中處理核的任務調(diào)度不靈活、控制復雜的技術問題，本公開實施例提出如下技術方案:

第一方面，本公開實施例提供一種任務調(diào)度方法，包括：

響應于執(zhí)行到任務段分配指令，所述微處理器指示發(fā)送任務段至所述處理核，其中所述任務段為所述任務的一部分；

響應于執(zhí)行完所述任務段，；

所述處理核發(fā)送任務段更新消息至所述微處理器；