[發明專利]用于神經網絡的數據處理方法、裝置和系統及存儲介質

在審

• 申請號: 201810124166.2
• 申請日: 2018-02-07
• 公開（公告）號: CN108875899A
• 公開（公告）日: 2018-11-23
• 發明（設計）人: 何蔚然;周舒暢
• 申請（專利權）人: 北京曠視科技有限公司
• 主分類號: G06N3/02
• 分類號: G06N3/02;G06N3/06
• 代理公司: 北京睿邦知識產權代理事務所(普通合伙) 11481
• 代理人: 徐丁峰;戴亞南

本發明實施例提供一種用于神經網絡的數據處理方法、裝置和系統以及存儲介質。用于神經網絡的數據處理方法包括：獲取待處理數據；利用神經網絡中的第一網絡結構處理待處理數據，以獲得待處理數據的定點化特征；以及利用神經網絡中的第二網絡結構處理定點化特征，以獲得待處理數據的浮點化特征。上述方法的數據處理速度快，同時可以應對需要豐富特征表示的任務，因此能夠以較小的計算成本獲得非常好的數據處理效果。

技術領域

本發明涉及計算機領域，更具體地涉及一種用于神經網絡的數據處理方法、裝置和系統以及存儲介質。

背景技術

神經網絡在圖像識別、語音識別等領域中已經有了廣泛且成功的應用。目前大多數神經網絡在處理數據的時候采用的是浮點運算，浮點運算的信息量大，所需的計算量也大，難以在計算能力有限的平臺上運行。

發明內容

考慮到上述問題而提出了本發明。本發明提供了一種用于神經網絡的數據處理方法、裝置和系統以及存儲介質。

根據本發明一方面，提供了一種用于神經網絡的數據處理方法。用于神經網絡的數據處理方法包括：獲取待處理數據；利用神經網絡中的第一網絡結構處理待處理數據，以獲得待處理數據的定點化特征；以及利用神經網絡中的第二網絡結構處理定點化特征，以獲得待處理數據的浮點化特征。

示例性地，第一網絡結構在采用自定義電路的第一硬件設備上運行，第二網絡結構在采用固定電路的第二硬件設備上運行。

示例性地，第一硬件設備包括現場可編程門陣列、專用集成電路和自主設計流片中的一種或多種。

示例性地，第二硬件設備包括微處理器。

示例性地，利用神經網絡中的第一網絡結構處理待處理數據，以獲得待處理數據的定點化特征包括：對于第一網絡結構中的至少一個網絡層，對網絡層的層輸出結果執行離散定點化操作，以獲得與該網絡層相對應的定點化結果，其中，定點化特征為與預設數目的網絡層中的最后一個網絡層相對應的定點化結果。

示例性地，利用神經網絡中的第二網絡結構處理定點化特征，以獲得待處理數據的浮點化特征包括：利用第二網絡結構中的浮點化模塊將定點化特征轉換成浮點化數據；以及將浮點化數據輸入第二網絡結構中的后續網絡層中，以獲得浮點化特征。

根據本發明另一方面，提供了一種用于神經網絡的數據處理裝置，包括：獲取模塊，用于獲取待處理數據；定點處理模塊，用于利用神經網絡中的第一網絡結構處理待處理數據，以獲得待處理數據的定點化特征；以及浮點處理模塊，用于利用神經網絡中的第二網絡結構處理定點化特征，以獲得待處理數據的浮點化特征。

根據本發明另一方面，提供了一種用于神經網絡的數據處理系統，包括處理器和存儲器，其中，所述存儲器中存儲有計算機程序指令，所述計算機程序指令被所述處理器運行時用于執行上述用于神經網絡的數據處理方法。

示例性地，數據處理系統包括采用自定義電路的第一硬件設備和采用固定電路的第二硬件設備，處理器包括第一硬件設備上的第一處理器和第二硬件設備上的第二處理器，存儲器包括第一硬件設備上的第一存儲器和第二硬件設備上的第二存儲器，第一存儲器中存儲有第一計算機程序指令，第二存儲器中存儲有第二計算機程序指令，第一計算機程序指令被第一處理器運行時用于執行獲取待處理數據以及利用神經網絡中的第一網絡結構處理待處理數據，以獲得待處理數據的定點化特征的步驟；第二計算機程序指令被第二處理器運行時用于執行利用神經網絡中的第二網絡結構處理定點化特征，以獲得待處理數據的浮點化特征的步驟。

示例性地，數據處理系統還包括通信裝置，通信裝置包括第一硬件設備上的第一通信裝置和第二硬件設備上的第二通信裝置，第一通信裝置用于將定點化特征傳送到第二硬件設備；第二通信裝置用于接收定點化特征。

根據本發明另一方面，提供了一種存儲介質，在所述存儲介質上存儲了程序指令，所述程序指令在運行時用于執行上述用于神經網絡的數據處理方法。