[發明專利]對異步計算作業的增強治理

有效

• 申請號: 201780062907.2
• 申請日: 2017-10-04
• 公開（公告）號: CN109804351B
• 公開（公告）日: 2023-07-14
• 發明（設計）人: J·阿克拉;K·A·陳;S·沃克
• 申請（專利權）人: 微軟技術許可有限責任公司
• 主分類號: G06F9/48
• 分類號: G06F9/48;G06F9/50
• 代理公司: 永新專利商標代理有限公司 72002
• 代理人: 鄔少俊;王英

用于治理計算環境中的資源利用的系統、方法和軟件技術。在實現方式中，由作業管理器進程啟動的治理線程識別在作業管理器進程內運行的線程，并將每個線程與各種作業之一相關聯。然后，治理線程基于與作業相關聯的每個線程的資源利用級別來跟蹤每個作業的資源利用級別。當任何作業的資源利用級別超過閾值時，治理線程能夠關閉與作業關聯的至少一個線程。

背景技術

許多計算工作負載涉及異步地在數據集上運行的多個處理作業以便完成給定的工作負載。作為示例，針對照片的對象檢測工作負載可以涉及快速渲染作業、對象檢測作業和對象標記作業。在另一示例中，照片刪除工作負載可以涉及確認作業、參考確認作業和刪除作業。

給需求的情況下，工作負載可以跨許多計算資源而分布，以便確保它們通過分派完成。作業由在每個單獨計算資源上運行的作業管理器進程啟動，以處理工作負載。因此，作業管理器進程(本地可執行文件)可以同時管理多個作業并且與多個工作負載相關。

在作業管理器進程內，可以為由作業管理器進程發起的每個作業啟動直接線程。直接線程本身可以在完成作業的上下文中啟動各種子線程，并且子線程可以啟動它們自己的線程。在資源上運行的所有直接線程可以與相同或不同的工作負載相關。

有時，任何一個作業可能利用在其上運行該作業上和其它作業的底層計算資源的太大份額。這可能是由于與作業相關聯的工作負載的特性，處理在作業上執行的任何線程遇到的障礙，或者是由于某些其它原因。這種情況不僅可能阻止作業完成，還可能阻止其它作業按時完成或根本無法完成。

發明內容

這里公開了一種技術，其允許響應于由作業對資源的過度使用而關閉與作業相關聯的一個或多個線程。

在一種實現方式中，由作業管理器進程啟動的治理線程識別在作業管理器進程內運行的線程，并將每個線程與各種作業之一相關聯。然后，治理線程基于與作業相關聯的每個線程的資源利用級別來跟蹤每個作業的資源利用級別。當任何作業的資源利用級別超過閾值時，治理線程能夠關閉與該作業相關聯的至少一個線程。以這種方式，可以限制過度利用計算資源的特定作業，從而允許依賴于相同資源的另一個作業或其它作業繼續進行。

提供本概述是為了以簡化的形式介紹一些概念，這些概念將在下面的技術公開中進一步描述。可以理解，該概述不旨在確定所要求保護的主題的關鍵特征或必要特征，也不旨在用于限制所要求保護的主題的范圍。

附圖說明

參考以下附圖可以更好地理解本公開的許多方面。雖然結合這些附圖描述了若干實施方式，但是本公開不限于本文公開的實施方式。相反，其目的是涵蓋所有替代方案、修改和等同物。

圖1示出了用于在實現方式中采用對異步計算作業的增強的治理的操作環境。

圖2示出了實現方式中的治理進程。

圖3示出了與圖1的操作環境相關的實現方式中的操作場景。

圖4示出了與圖1的操作環境相關的實現方式中的操作序列。

圖5示出了用于在實現方式中采用對異步計算作業的增強的治理的另一操作環境。

圖6示出了在實現方式中的另一個治理進程。

圖7示出了與圖5的操作環境相關的實現方式中的操作場景。

圖8示出了適用于實現本文公開的增強的治理技術的計算系統，包括附圖中示出的以及下面在技術公開中討論的任何環境、架構、元件、過程和操作場景和序列。

具體實施方式

本文公開的技術提供了對異步計算作業的增強的治理能力。公開了一種治理線程，其在給定計算資源上的作業管理器進程內運行。治理線程監視在資源上運行的其它線程的資源利用率，并通過異步計算作業從線程的線程獲得資源的利用率。