[發明專利]基于循環神經網絡的數據處理方法、設備及介質

在審

• 申請號: 202010591342.0
• 申請日: 2020-06-24
• 公開（公告）號: CN111738422A
• 公開（公告）日: 2020-10-02
• 發明（設計）人: 康焱
• 申請（專利權）人: 深圳前海微眾銀行股份有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08
• 代理公司: 深圳市世紀恒程知識產權代理事務所 44287
• 代理人: 關向蘭

1.一種基于循環神經網絡的數據處理方法，其特征在于，應用于第二設備，所述第二設備中包括各個時間段的具有預設標簽的第二訓練時序數據，所述基于循環神經網絡的數據處理方法包括：

獲取第二待處理時序數據，將所述第二待處理時序數據輸入至第二數據處理模型中；

所述第二數據處理模型為對不同時間段的第二循環神經網絡模型進行聯邦前向訓練后，再對聯邦前向訓練完成的不同時間段的第二循環神經網絡模型進行各個時間段的聯邦反向訓練后得到的；

其中，同一時間段的第二循環神經網絡模型為聯合第二訓練時序數據和同一目標時間段的第一設備的第一訓練時序數據訓練得到的；

基于所述第二數據處理模型對所述第二待處理時序數據執行第二預設數據處理流程，得到所述第二待處理時序數據的目標預測標簽。

2.如權利要求1所述基于循環神經網絡的數據處理方法，其特征在于，所述基于所述第二數據處理模型對所述第二待處理時序數據執行第二預設數據處理流程的步驟之前，所述方法包括：

基于具有預設標簽的第二訓練時序數據，對不同時間段的第二循環神經網絡模型進行聯邦前向訓練后，再對聯邦前向訓練完成的不同時間段的第二循環神經網絡模型進行各個時間段的聯邦反向訓練，以得到第二目標循環神經網絡模型；

將所述第二目標循環神經網絡模型設置為所述第二數據處理模型。

3.如權利要求1所述基于循環神經網絡的數據處理方法，其特征在于，所述基于具有預設標簽的第二訓練時序數據，對不同時間段的第二循環神經網絡模型進行聯邦前向訓練后，再對聯邦前向訓練完成的不同時間段的第二循環神經網絡模型進行各個時間段的聯邦反向訓練，以得到第二目標循環神經網絡模型的步驟，包括：

基于接收的在目標時間段對應上一時間段的前向傳播的第二中間參數，所述目標時間段的第二訓練時序數據，所述第二循環神經網絡模型在目標時間段的模型參數，確定在目標時間段的前向傳播的第二中間參數；

基于所述在目標時間段的前向傳播的第二中間參數進行對后續各個時間段的聯邦前向訓練，直到得到最后時間段的第二中間參數；

基于所述最后時間段的第二中間參數，所述最后時間段的第二訓練時序數據，所述第二循環神經網絡模型在最后時間段的模型參數，最后時間段的預設預測模型，以及接收的在最后時間段的由第一設備的第一訓練時序數據訓練得到的第一中間參數計算最后時間段的損失梯度，以更新所述最后時間段的預設預測模型的模型參數；

基于所述最后時間段的損失梯度，所述更新的預設預測模型的模型參數以及所述在最后時間段的第二訓練時序數據，計算對應最后時間段的第二反向中間梯度，以更新第二循環神經網絡模型在最后時間段的模型參數和計算最后時間段對應上一時間段的第二反向中間梯度；

基于在最后時間段對應更新的第二循環神經網絡模型和最后時間段對應上一時間段第二反向中間梯度進行聯邦反向訓練，直至最初時間段的第二循環神經網絡模型得到更新。

4.如權利要求3所述基于循環神經網絡的數據處理方法，其特征在于，

在基于每個時間段的第二反向中間梯度更新目標時間段的第二循環神經網絡模型過程中，還聯合該時間段的第二訓練時序數據，以及該時間段的第二訓練時序數據的同一目標時間段的多個第一設備的第一訓練時序數據訓練得到該目標時間段的損失梯度，以基于該目標時間段的損失梯度計算得到目標時間段的第二循環神經網絡模型的第二本地梯度，還基于所述第二本地梯度更新基于第二反向中間梯度更新后的目標時間段的第二循環神經網絡模型。