[發(fā)明專利]一種數(shù)據(jù)處理方法及裝置

在審

• 申請?zhí)枺?/td>: 201810621153.6
• 申請日: 2018-06-15
• 公開（公告）號: CN108846095A
• 公開（公告）日: 2018-11-20
• 發(fā)明（設(shè)計）人: 向輝;王奇剛;王鵬;胡文暉;李梅
• 申請（專利權(quán)）人: 聯(lián)想（北京）有限公司
• 主分類號: G06F17/30
• 分類號: G06F17/30;G06F9/54
• 代理公司: 北京派特恩知識產(chǎn)權(quán)代理有限公司 11270
• 代理人: 張振偉;張穎玲

本發(fā)明公開了一種數(shù)據(jù)處理方法，所述方法包括：從消息隊列中獲取M個樣本數(shù)據(jù)，M大于等于1，其中，M與工作節(jié)點自身的數(shù)據(jù)處理能力相關(guān)聯(lián)；分別對所述M個樣本數(shù)據(jù)進(jìn)行計算，得到針對訓(xùn)練模型的M個訓(xùn)練參數(shù)；確定所述消息隊列中的樣本數(shù)據(jù)為空時，將所述M個訓(xùn)練參數(shù)向參數(shù)服務(wù)器發(fā)送。同時，本發(fā)明公開了一種數(shù)據(jù)處理裝置。

技術(shù)領(lǐng)域

本申請涉及數(shù)據(jù)處理技術(shù)，尤其涉及一種數(shù)據(jù)處理方法及裝置。

背景技術(shù)

在異構(gòu)環(huán)境下使用同步隨機(jī)梯度下降法(SGD，Synchronous)訓(xùn)練數(shù)據(jù)時，由每個工作節(jié)點對各自分配的樣本數(shù)據(jù)進(jìn)行并行梯度計算，待每個工作節(jié)點完成各自分配的樣本數(shù)據(jù)的梯度計算后，再一起將各自計算得到的梯度參數(shù)向參數(shù)服務(wù)器發(fā)送，然后由參數(shù)服務(wù)器對接收到的所有工作節(jié)點上傳的梯度參數(shù)進(jìn)行合并和/或累加平均計算，利用得到的針對梯度參數(shù)的平均值更新應(yīng)用到模型。

但是，對于異構(gòu)硬件服務(wù)器，各個工作節(jié)點的參數(shù)指標(biāo)性能各有不同，性能瓶頸就會出現(xiàn)在性能差的工作節(jié)點上，計算較快的工作節(jié)點必須等待計算較慢的工作節(jié)點對分配的樣本數(shù)據(jù)計算完畢后，才能一起將計算得到的所有梯度參數(shù)發(fā)送給參數(shù)服務(wù)器，之后，參數(shù)服務(wù)器才能利用所有工作節(jié)點上傳的梯度參數(shù)更新當(dāng)前的訓(xùn)練模型，也才能執(zhí)行下一輪的更新迭代，如此，現(xiàn)有技術(shù)中針對訓(xùn)練模型的梯度更新方法，不僅浪費工作節(jié)點的計算力，而且拖慢了針對訓(xùn)練模型的訓(xùn)練時間。

發(fā)明內(nèi)容

有鑒于此，本發(fā)明實施例期望提供一種數(shù)據(jù)處理方法及裝置。

為達(dá)到上述目的，本發(fā)明實施例的技術(shù)方案是這樣實現(xiàn)的：

根據(jù)本發(fā)明實施例中的一方面，提供一種數(shù)據(jù)處理方法，所述方法包括：

從消息隊列中獲取M個樣本數(shù)據(jù)，M大于等于1，其中，M與工作節(jié)點自身的數(shù)據(jù)處理能力相關(guān)聯(lián)；

分別對所述M個樣本數(shù)據(jù)進(jìn)行計算，得到針對訓(xùn)練模型的M個訓(xùn)練參數(shù)；

確定所述消息隊列中的樣本數(shù)據(jù)為空時，將所述M個訓(xùn)練參數(shù)向參數(shù)服務(wù)器發(fā)送。

上述方案中，所述方法還包括：

確定所述消息隊列中的樣本數(shù)據(jù)不為空時，利用所述M個訓(xùn)練參數(shù)在本地更新所述訓(xùn)練模型的模型參數(shù)，得到所述訓(xùn)練模型的M個本地模型參數(shù)。

上述方案中，確定所述消息隊列中的樣本數(shù)據(jù)為空時，將所述M個訓(xùn)練參數(shù)向參數(shù)服務(wù)器發(fā)送，包括：

確定所述消息隊列中的樣本數(shù)據(jù)為空時，計算所述M個本地模型參數(shù)之和；

將所述M個本地模型參數(shù)之和作為訓(xùn)練參數(shù)向所述參數(shù)服務(wù)器發(fā)送。

上述方案中，從消息隊列中獲取M個樣本數(shù)據(jù)之前，所述方法還包括：

確定工作節(jié)點參數(shù)、樣本數(shù)據(jù)參數(shù)和迭代更新參數(shù)；

根據(jù)所述工作節(jié)點參數(shù)、所述樣本數(shù)據(jù)參數(shù)和所述迭代更新參數(shù)之間的乘積，配置所述消息隊列的大小。

上述方案中，從消息隊列中獲取M個樣本數(shù)據(jù)，包括：

通過遠(yuǎn)程過程調(diào)用RPC接口獲取所述消息隊列中的M個樣本數(shù)據(jù)。

根據(jù)本發(fā)明實施例中的另一方面，提供一種數(shù)據(jù)處理裝置，所述裝置包括：

獲取單元，用于從消息隊列中獲取M個樣本數(shù)據(jù)，M大于等于1，其中，M與工作節(jié)點自身的數(shù)據(jù)處理能力相關(guān)聯(lián)；

計算單元，用于分別對所述M個樣本數(shù)據(jù)進(jìn)行計算，得到針對訓(xùn)練模型的M個訓(xùn)練參數(shù)；

發(fā)送單元，用于確定所述消息隊列中的樣本數(shù)據(jù)為空時，將所述M個訓(xùn)練參數(shù)向參數(shù)服務(wù)器發(fā)送。

上述方案中，所述裝置還包括；