[發(fā)明專利]服務(wù)類別屬性在運行時的初始化和管理

在審

• 申請?zhí)枺?/td>: 202011010189.4
• 申請日: 2020-09-23
• 公開（公告）號: CN112988376A
• 公開（公告）日: 2021-06-18
• 發(fā)明（設(shè)計）人: 阿拉文·安納塔拉曼;斯里尼瓦斯·斯瑞達(dá)拉恩;阿賈亞·杜格;穆罕默德·R·哈格海特;米哈伊爾·E·斯莫卡洛夫;蘇達(dá)山·斯里尼瓦桑
• 申請（專利權(quán)）人: 英特爾公司
• 主分類號: G06F9/50
• 分類號: G06F9/50;G06F15/78;G06T1/20
• 代理公司: 北京東方億思知識產(chǎn)權(quán)代理有限責(zé)任公司 11258
• 代理人: 楊佳婧

本申請涉及服務(wù)類別屬性在運行時的初始化和管理。系統(tǒng)、裝置和方法可以提供檢測對通信庫的運行時調(diào)用，其中運行時調(diào)用標(biāo)識存儲器緩沖區(qū)，確定服務(wù)類別(CLOS)屬性與存儲器緩沖區(qū)相關(guān)聯(lián)，以及響應(yīng)于運行時調(diào)用而發(fā)出驅(qū)動程序指令以修改CLOS屬性的技術(shù)。

技術(shù)領(lǐng)域

實施例總體上涉及服務(wù)類別(CLOS)屬性。更具體地，實施例涉及在運行時初始化和管理CLOS屬性以優(yōu)化分布式環(huán)境中的深度學(xué)習(xí)訓(xùn)練。

背景技術(shù)

一些圖形處理單元(GPU)可以允許應(yīng)用開發(fā)者在緩沖區(qū)分配期間靜態(tài)地設(shè)置將在應(yīng)用的執(zhí)行期間使用的存儲器的頁面的服務(wù)類別(CLOS)。CLOS然后可以用于在每頁面的基礎(chǔ)上控制信息的緩存能力。在緩沖區(qū)分配期間以頁面級別靜態(tài)地設(shè)置CLOS可能是低效的。實際上，常規(guī)解決方案可能導(dǎo)致次優(yōu)的性能，特別是當(dāng)應(yīng)用涉及訓(xùn)練具有相對密集的通信工作負(fù)荷的深度神經(jīng)網(wǎng)絡(luò)時。

發(fā)明內(nèi)容

根據(jù)本公開的第一方面，提供了一種計算系統(tǒng)，包括：網(wǎng)絡(luò)控制器；處理器，所述處理器耦合至所述網(wǎng)絡(luò)控制器；以及存儲器，所述存儲器耦合至所述處理器，其中，所述存儲器包括可執(zhí)行程序指令集，所述可執(zhí)行程序指令集在由所述處理器執(zhí)行時，使得所述計算系統(tǒng)執(zhí)行以下操作：檢測對通信庫的運行時調(diào)用，其中，所述運行時調(diào)用標(biāo)識存儲器緩沖區(qū)，確定服務(wù)類別(CLOS)屬性與所述存儲器緩沖區(qū)相關(guān)聯(lián)，以及響應(yīng)于所述運行時調(diào)用而發(fā)出驅(qū)動程序指令以修改所述CLOS屬性。

根據(jù)本公開的第二方面，提供了一種半導(dǎo)體裝置，包括：一個或多個襯底；以及邏輯單元，所述邏輯單元耦合到所述一個或多個襯底，其中，所述邏輯單元至少部分地在可配置邏輯單元或固定功能硬件邏輯單元中的一個或多個中實現(xiàn)，耦合到所述一個或多個襯底的所述邏輯單元用于：檢測對通信庫的運行時調(diào)用，其中，所述運行時調(diào)用標(biāo)識存儲器緩沖區(qū)，確定服務(wù)類別(CLOS)屬性與所述存儲器緩沖區(qū)相關(guān)聯(lián)，以及響應(yīng)于所述運行時調(diào)用而發(fā)出驅(qū)動程序指令以修改所述CLOS屬性。

根據(jù)本公開的第三方面，提供了一種方法，包括：檢測對通信庫的運行時調(diào)用，其中，所述運行時調(diào)用標(biāo)識存儲器緩沖區(qū)；確定服務(wù)類別(CLOS)屬性與所述存儲器緩沖區(qū)相關(guān)聯(lián)；以及響應(yīng)于所述運行時調(diào)用而發(fā)出驅(qū)動程序指令以修改所述CLOS屬性。

根據(jù)本公開的第四方面，提供了至少一種計算機(jī)可讀存儲介質(zhì)，包括指令集，所述指令集在由計算系統(tǒng)執(zhí)行時，使得所述計算系統(tǒng)執(zhí)行根據(jù)權(quán)利要求19至23中任一項所述的方法。

附圖說明

通過閱讀以下說明書和所附權(quán)利要求書，并且通過參考以下附圖，實施例的各種優(yōu)點對于本領(lǐng)域技術(shù)人員而言將變得顯而易見，在附圖中：

圖1是根據(jù)實施例的在子頁面級別管理的可重新配置的服務(wù)類別屬性的示例的圖示；

圖2是根據(jù)實施例的初始化服務(wù)類別屬性的方法的示例的流程圖；

圖3是根據(jù)實施例的調(diào)整服務(wù)類別屬性的方法的示例的流程圖；

圖4是根據(jù)實施例的調(diào)整服務(wù)類別屬性的另一方法的示例的流程圖；

圖5是根據(jù)實施例的深度學(xué)習(xí)(DL)框架、通信庫和驅(qū)動程序之間的通信的示例的信令圖；

圖6是根據(jù)實施例的軟件棧的示例的框圖；

圖7是根據(jù)實施例的性能增強(qiáng)型計算系統(tǒng)的示例的框圖；

圖8是根據(jù)實施例的半導(dǎo)體裝置的示例的圖示；

圖9是根據(jù)實施例的處理器的示例的框圖；以及

圖10是根據(jù)實施例的基于多處理器的計算系統(tǒng)的示例的框圖。

具體實施方式