[發明專利]數據處理裝置和服務器

在審

• 申請號: 201710025614.9
• 申請日: 2017-01-13
• 公開（公告）號: CN106776461A
• 公開（公告）日: 2017-05-31
• 發明（設計）人: 桂文明
• 申請（專利權）人: 算豐科技（北京）有限公司
• 主分類號: G06F15/173
• 分類號: G06F15/173;G06N3/063
• 代理公司: 北京思元知識產權代理事務所(普通合伙)11598
• 代理人: 楊惠

技術領域

本發明涉及數據處理技術，尤其涉及一種數據處理裝置和服務器。

背景技術

目前，深度學習是機器學習研究中的一個新的領域，是所有高科技研究和開發中最熱門的領域之一，其動機在于建立、模擬人腦進行分析學習的神經網絡，它模仿人腦的機制來解釋數據，例如圖像，聲音和文本。

深度學習的關鍵是DNN(Deep Neural Network，深度神經網絡)，由于DNN具有深層結構、數千萬參數需要學習，因此DNN的預測和訓練過程需要巨大的計算能力。通常，通過部署在多個芯片上的計算節點構成DNN，提高DNN的計算能力。

在DNN訓練過程中，經常需要CPU(中央處理單元)和DNN之間傳輸Broadcast(廣播)消息和Gather(收集)消息。現有技術中，是將所有芯片串聯，構成一維芯片鏈，再將CPU與一維芯片鏈中的首芯片連接，Broadcast消息由CPU從一維芯片鏈的首芯片依次傳送到一維芯片鏈的末芯片；Gather消息分別則從一維芯片鏈的末芯片依次傳輸到首芯片，再傳輸給CPU。

在實現本發明的過程中，發明人發現，現有技術一維芯片鏈至少存在以下問題：

當一維芯片鏈包括的芯片個數較多時，Broadcast和Gather消息分別需要從一維芯片鏈的一端依次傳輸到另一端，需要經過較多芯片的轉發，需要較長的消息傳輸時間，從而提升了DNN的數據處理時延，降低了DNN的數據處理效率。

發明內容

本發明實施例所要解決的其中一個技術問題是，提供一種數據處理裝置和服務器，以減少通信數據的傳輸時間，提高數據處理效率。

為解決上述技術問題，根據本發明實施例的一個方面，提供一種數據處理裝置，包括M行節點芯片，每行節點芯片包括N個節點芯片；所述M行節點芯片中的首節點芯片依次連接，形成首列節點芯片；其中，M、N分別為大于1的整數；

所述首列節點芯片中的各首節點芯片，用于按照從第1行至第M行的順序，依次傳輸處理第一通信數據；

所述每行節點芯片中的各節點芯片，用于按照從首節點芯片至末節點芯片的順序，依次傳輸處理所述第一通信數據。

可選地，上述各實施例的數據處理裝置中，所述每行節點芯片中的各節點芯片，還用于按照從末節點芯片至首節點芯片的順序，依次傳輸各節點芯片產生的第二通信數據；

所述首列節點芯片中的各首節點芯片，用于按照從第1行至第M行的順序，依次傳輸各節點芯片產生的第二通信數據。

可選地，上述各實施例的數據處理裝置中，所述第1行節點芯片中的首節點芯片設置有與主板連接的第一外部接口，用于通過所述第一外部接口接收主板發送的所述第一通信數據；

所述第M行節點芯片中的首節點芯片設置有與主板連接的第二外部接口，用于通過所述第二外部接口向主板發送收集到的所有節點芯片的第二通信數據。

可選地，上述各實施例的數據處理裝置中，還包括：

主機節點芯片，設置有與主板連接的第三外部接口，并分別與所述第1行和第M行節點芯片中的首節點芯片連接，用于通過所述第三外部接口接收主板發送的所述第一通信數據并轉發給第1行節點芯片中的首節點芯片，以及接收第M行節點芯片中的首節點芯片收集的、所有節點芯片的第二通信數據并通過所述第三外部接口轉發給主板。

可選地，上述各實施例的數據處理裝置中，所述每行節點芯片中的各節點芯片，還用于按照從末節點芯片至首節點芯片的順序，依次傳輸各節點芯片產生的第二通信數據；

所述首列節點芯片中的各首節點芯片，用于按照從第M行至第1行的順序，依次傳輸各節點芯片產生的第二通信數據。

可選地，上述各實施例的數據處理裝置中，所述第1行節點芯片中的首節點芯片設置有與主板連接的第一外部接口，用于通過所述第一外部接口接收主板發送的所述第一通信數據，以及向主板發送收集到的所有節點芯片的第二通信數據。

可選地，上述各實施例的數據處理裝置中，還包括：

主機節點芯片，設置有與主板連接的第三外部接口，并與所述第1行節點芯片中的首節點芯片連接，用于通過所述第三外部接口接收主板發送的所述第一通信數據并轉發給第1行節點芯片中的首節點芯片，以及接收第1行節點芯片中的首節點芯片收集的、所有節點芯片的第二通信數據并通過所述第三外部接口轉發給主板。