[發明專利]數據傳輸方法、裝置、電子設備及存儲介質

在審

• 申請號: 202111661609.X
• 申請日: 2021-12-31
• 公開（公告）號: CN114356601A
• 公開（公告）日: 2022-04-15
• 發明（設計）人: 池沐聰;趙偉;牛雅哲;劉宇
• 申請（專利權）人: 上海商湯科技開發有限公司
• 主分類號: G06F9/54
• 分類號: G06F9/54;G06N3/04;G06N3/08;G06N20/00;H04L67/131
• 代理公司: 北京中知恒瑞知識產權代理事務所(普通合伙) 11889
• 代理人: 袁忠林

本公開提供了一種數據傳輸方法、裝置、電子設備及存儲介質，應用于數據管理節點，該方法包括：接收至少一個數據產生節點發送的元數據，其中，元數據包括訓練數據的標識號、訓練數據所在的數據產生節點的節點信息以及至少一個預讀取節點的節點信息；基于訓練數據的標識號以及訓練數據所在的數據產生節點的節點信息，確定可訪問節點，以及基于訓練數據的標識號與所述至少一個預讀取節點的節點信息，確定數據預讀取節點；向數據預讀取節點中的至少一個預讀取節點發送數據讀取命令，使得每個預讀取節點響應數據讀取命令從可訪問節點中的目標數據產生節點獲取訓練數據。本公開實施例，將訓練數據預先發送至預讀取節點，可以降低數據傳輸的等待時長。

技術領域

本公開涉及機器學習技術領域，具體而言，涉及一種數據傳輸方法、裝置、電子設備以及計算機可讀存儲介質。

背景技術

在分布式強化學習中，經常通過多臺設備(也稱節點)實現分布式訓練，以提高強化學習的訓練效率。

在現有的分布式網絡訓練過程中，經常存在多臺設備之間的數據傳輸，若當前設備執行的訓練任務所需要的訓練數據在其他設備上，則當前訓練任務會被打斷，并需要通過遠程過程調用(Remote Procedure Call，RPC)來調用訓練數據，直至調用過程執行完畢之后，當前訓練任務才能繼續執行。如此，增加了等待訓練數據調用的時間，進而降低分布式強化學習的效率。

發明內容

本公開實施例至少提供一種數據傳輸方法、裝置、電子設備及存儲介質，以提升分布式強化學習的訓練效率。

本公開實施例提供了一種數據傳輸方法，應用于數據管理節點，所述方法包括：

接收至少一個數據產生節點發送的元數據，其中，所述元數據包括訓練數據的標識號、所述訓練數據所在的數據產生節點的節點信息以及至少一個預讀取節點的節點信息；

基于所述訓練數據的標識號以及所述訓練數據所在的數據產生的節點信息，確定可訪問節點，以及基于所述訓練數據的標識號與所述至少一個預讀取節點的節點信息，確定數據預讀取節點；

向所述數據預讀取節點中的至少一個預讀取節點發送數據讀取命令，使得所述至少一個預讀取節點響應所述數據讀取命令從所述可訪問節點中的目標數據產生節點獲取所述訓練數據。

本公開實施例中，根據元數據確定可訪問節點以及數據預讀取節點，使得至少一個預讀取節點在執行訓練任務之前預先獲取需要的訓練數據，與現有技術中的通過中斷訓練任務、現用現取的方式相比，可以減少數據傳輸的等待時長，并且對訓練任務不產生影響，有利于提升數據傳輸以及網絡訓練的效率。

一種可選的實施方式中，所述向所述數據預讀取節點中的至少一個預讀取節點發送數據讀取命令，包括：

在接收到所述數據產生節點發送的元數據的情況下，基于所述數據預讀取節點，向所述數據預讀取節點中的至少一個預讀取節點發送數據讀取命令；和/或，

響應于所述數據預讀取節點中的目標預讀取節點發送的數據查詢請求，向所述目標預讀取節點發送數據讀取命令。

本公開實施例中，數據管理節點可以在數據產生節點產生訓練數據后，第一時間告知預讀取節點，進而可以提升訓練的效率。

一種可選的實施方式中，所述方法還包括：

接收所述預讀取節點獲取完成所述訓練數據而生成的節點更新指令，所述節點更新指令攜帶所述預讀取節點的節點信息；

根據所述預讀取節點的節點信息，更新所述可訪問節點。

本公開實施例中，通過增加可訪問節點中的數據產生節點的節點數量，可以提高數據傳輸的效率。