[發明專利]基于圖形處理器的數據處理方法和裝置

有效

• 申請號: 201510876116.6
• 申請日: 2015-12-02
• 公開（公告）號: CN105389772B
• 公開（公告）日: 2018-09-07
• 發明（設計）人: 胡娜;付曉寅;王桂彬
• 申請（專利權）人: 百度在線網絡技術（北京）有限公司
• 主分類號: G06T1/20
• 分類號: G06T1/20;G06F9/38
• 代理公司: 北京清亦華知識產權代理事務所(普通合伙) 11201
• 代理人: 宋合成

1.一種基于圖形處理器的數據處理方法，其特征在于，包括以下步驟：

在中央處理器CPU內創建用于分別控制圖形處理器GPU的第一線程和第二線程，其中，所述第一線程用于調用雙向LSTM的前向層Kernel序列，所述第二線程用于調用雙向LSTM算法的反向層Kernel序列；

通過所述第一線程和所述第二線程控制所述GPU進行并行數據處理。

2.如權利要求1所述的數據處理方法，其特征在于，通過所述第一線程和所述第二線程控制所述圖形處理器進行并行數據處理，包括：

將所述前向層Kernel序列和所述反向層Kernel序列分別派發至所述GPU的兩條數據流中，以使所述GPU并行執行所述前向層Kernel序列和所述反向層Kernel序列。

3.如權利要求1或2所述的數據處理方法，其特征在于，所述前向層Kernel序列和所述反向層Kernel序列包括多個Kernel程序，所述處理方法還包括：

分別獲取所述雙向LSTM的前向層和反向層計算過程中的多個矩陣單元；

將至少兩個無數據處理相關性的矩陣單元合并為一個，并應用一個所述Kernel程序處理合并后的矩陣單元。

4.如權利要求3所述的數據處理方法，其特征在于，每個Kernel程序中包括多個Kernel計算過程，所述處理方法還包括：

針對有數據處理相關性的矩陣單元，應用一個所述Kernel計算過程處理每個矩陣單元中至少兩個無數據處理相關性的元素。

5.如權利要求3所述的數據處理方法，其特征在于，所述雙向LSTM的前向層和反向層計算過程中的多個矩陣單元包括輸入門矩陣、輸出門矩陣、遺忘門矩陣和CELL矩陣。

6.一種基于圖形處理器的數據處理裝置，其特征在于，包括：

創建模塊，用于在中央處理器CPU內創建用于分別控制圖形處理器GPU的第一線程和第二線程，其中，所述第一線程用于調用雙向LSTM的前向層Kernel序列，所述第二線程用于調用雙向LSTM算法的反向層Kernel序列；

第一處理模塊，用于通過所述第一線程和所述第二線程控制所述GPU進行并行數據處理。

7.如權利要求6所述的數據處理裝置，其特征在于，所述第一處理模塊還用于：

將所述前向層Kernel序列和所述反向層Kernel序列分別派發至所述GPU的兩條數據流中，以使所述GPU并行執行所述前向層Kernel序列和所述反向層Kernel序列。

8.如權利要求6或7所述的數據處理裝置，其特征在于，所述前向層Kernel序列和所述反向層Kernel序列包括多個Kernel程序，所述處理裝置還包括：

獲取模塊，用于分別獲取所述雙向LSTM的前向層和反向層計算過程中的多個矩陣單元；

第二處理模塊，用于將至少兩個無數據處理相關性的矩陣單元合并為一個，并應用一個所述Kernel程序處理合并后的矩陣單元。

9.如權利要求8所述的數據處理裝置，其特征在于，每個Kernel程序中包括多個Kernel計算過程，所述處理裝置還包括：

第三處理模塊，用于針對有數據處理相關性的矩陣單元，應用一個所述Kernel計算過程處理每個矩陣單元中至少兩個無數據處理相關性的元素。

10.如權利要求8所述的數據處理裝置，其特征在于，所述雙向LSTM的前向層和反向層計算過程中的多個矩陣單元包括輸入門矩陣、輸出門矩陣、遺忘門矩陣和CELL矩陣。