[發明專利]基于神經網絡計算的方法和裝置

有效

• 申請號: 202010019645.5
• 申請日: 2020-01-08
• 公開（公告）號: CN111259675B
• 公開（公告）日: 2023-09-19
• 發明（設計）人: 劉托
• 申請（專利權）人: 北京小米松果電子有限公司
• 主分類號: G06F40/58
• 分類號: G06F40/58;G06N3/0442
• 代理公司: 北京鉦霖知識產權代理有限公司 11722
• 代理人: 李英艷;李志新

1.一種基于神經網絡計算的方法，其特征在于，應用于語音翻譯，包括：

對預設神經網絡模型進行解析，基于語音翻譯時節點之間的時序關系和上下文關系，得到所述預設神經網絡模型的網絡結構中節點之間的依賴關系；

根據所述依賴關系，確定至少一個目標隱藏層節點，目標隱藏節點包括時序在前的被依賴節點，或上文的被依賴節點；

為每個所述目標隱藏層節點配置對應的狀態緩存張量；

基于語音翻譯時隱藏層節點運算結果確定隱藏層狀態；

在通過所述預設神經網絡模型進行語音翻譯時，將每個所述目標隱藏層節點的隱藏層狀態保存至對應的狀態緩存張量中；

通過與所述目標隱藏層節點存在依賴關系的其他節點，從所述對應的狀態緩存張量中讀取所述隱藏層狀態。

2.根據權利要求1所述的方法，其特征在于，所述根據所述依賴關系，確定至少一個目標隱藏層節點，包括：

根據節點之間的依賴關系，確定依賴節點，以及所述依賴節點所依賴的被依賴節點；

在所述被依賴節點中，確定時序先于所述依賴節點時序的至少一個被依賴節點；

將所述至少一個被依賴節點作為目標隱藏層節點。

3.根據權利要求2所述的方法，其特征在于，所述方法還包括：

確定每個依賴節點需要依賴的目標隱藏層節點，以及每個所述依賴節點所依賴的目標隱藏層節點的目標時刻；

所述將每個所述目標隱藏層節點的隱藏層狀態保存至對應的狀態緩存張量中，包括：

將所述每個目標隱藏層節點的目標時刻的目標隱藏層狀態保存至對應的狀態緩存張量中。

4.根據權利要求1至3中任一項所述的方法，其特征在于，在為每個所述目標隱藏層節點配置對應的狀態緩存張量之后，還包括：

根據所述預設神經網絡模型的網絡結構和節點之間的依賴關系，計算每個所述狀態緩存張量的更新時間、緩存機制中的至少一項；

根據每個狀態緩存張量的更新時間更新狀態緩存張量中的狀態；

根據每個狀態緩存張量的緩存機制為所述每個狀態緩存張量分配存儲空間。

5.一種基于神經網絡計算的裝置，其特征在于，應用于語音翻譯，包括：

解析單元，用于對預設神經網絡模型進行解析，基于語音翻譯時節點之間的時序關系和上下文關系，得到所述預設神經網絡模型的網絡結構中節點之間的依賴關系；

第一確定單元，用于根據所述依賴關系，確定至少一個目標隱藏層節點，目標隱藏節點包括時序在前的被依賴節點，或上文的被依賴節點；

緩存配置單元，用于為每個所述目標隱藏層節點配置對應的狀態緩存張量；

保存單元，用于基于語音翻譯時隱藏層節點運算結果確定隱藏層狀態；

所述保存單元，還用于在通過所述預設神經網絡模型進行語音翻譯時，將每個所述目標隱藏層節點的隱藏層狀態保存至對應的狀態緩存張量中；

讀取單元，用于通過與所述目標隱藏層節點存在依賴關系的其他節點，從所述對應的狀態緩存張量中讀取所述隱藏層狀態。

6.根據權利要求5所述的裝置，其特征在于，所述第一確定單元用于采用如下方式根據所述依賴關系，確定至少一個目標隱藏層節點：

根據節點之間的依賴關系，確定依賴節點，以及所述依賴節點所依賴的被依賴節點；

在所述被依賴節點中，確定時序先于所述依賴節點時序的至少一個被依賴節點；

將所述至少一個被依賴節點作為目標隱藏層節點。

7.根據權利要求6所述的裝置，其特征在于，所述裝置還包括：

第二確定單元，確定每個依賴節點需要依賴的目標隱藏層節點，以及每個所述依賴節點所依賴的目標隱藏層節點的目標時刻；

所述保存單元用于：

將所述每個目標隱藏層節點的目標時刻的目標隱藏層狀態保存至對應的狀態緩存張量中。