[發(fā)明專利]一種基于自動集群神經(jīng)網(wǎng)絡芯片組的運算方法和裝置

有效

• 申請?zhí)枺?/td>: 201810381012.1
• 申請日: 2018-04-25
• 公開（公告）號: CN108549934B
• 公開（公告）日: 2020-06-19
• 發(fā)明（設計）人: 廖裕民;朱祖建
• 申請（專利權）人: 福州瑞芯微電子股份有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06F15/78
• 代理公司: 福州市景弘專利代理事務所(普通合伙) 35219
• 代理人: 林祥翔;徐劍兵

1.一種基于自動集群神經(jīng)網(wǎng)絡芯片組的運算裝置，其特征在于，所述裝置包括一個主芯片和多個從芯片，所述主芯片與每個從芯片連接；所述主芯片包括資源確定單元、網(wǎng)絡參數(shù)確定單元、網(wǎng)絡配置單元、第一處理單元、第一通信單元、結果獲取單元；所述從芯片包括第二處理單元和第二通信單元；

所述資源確定單元用于獲取所有從芯片的資源運算子信息，并將資源運算子信息與從芯片的標識信息對應存儲；以及根據(jù)任務請求類型對應的神經(jīng)網(wǎng)絡結構參數(shù)，確定各個從芯片的資源運算子信息與神經(jīng)網(wǎng)絡運算之間的映射關系；所述網(wǎng)絡參數(shù)確定單元用于根據(jù)接收到的任務請求類型，確定任務請求類型對應的神經(jīng)網(wǎng)絡結構，并確定該神經(jīng)網(wǎng)絡結構所需的資源運算總信息；

所述網(wǎng)絡配置單元用于根據(jù)神經(jīng)網(wǎng)絡結構將資源運算總信息劃分為若干資源運算子信息，確定執(zhí)行神經(jīng)網(wǎng)絡運算的從芯片之間的運算順序，生成第一配置信息；從芯片之間的運算順序基于神經(jīng)網(wǎng)絡子層的連接順序，每一從芯片進行一個神經(jīng)網(wǎng)絡子層的運算；

所述第一處理單元用于通過第一通信單元將第一配置信息發(fā)送給所有從芯片，以及獲取待運算的數(shù)據(jù)，并將待運算的數(shù)據(jù)發(fā)送給第一從芯片，所述第一從芯片為第一配置信息中運算順序排名最靠前的從芯片；

第一從芯片的第二通信單元用于接收第一配置信息以及待運算的數(shù)據(jù)，第一從芯片的第二處理單元用于采用第一從芯片對應的資源運算子信息對待運算的數(shù)據(jù)進行運算，得到第一運算結果；

S1：下一個運算順序的從芯片的第二通信單元用于獲取第一運算結果，下一個運算順序的從芯片的第二處理單元用于對第一運算結果進行運算，得到第二運算結果；重復步驟S1，直至神經(jīng)網(wǎng)絡運算完成；

所述結果獲取單元用于從運算順序排名最靠后的從芯片獲取最終生成的運算結果并存儲；

資源確定單元包括資源搜索單元、資源評估單元、資源定義單元、資源列表存儲單元、資源定義存儲單元；所述資源搜索單元與資源評估單元連接，所述資源評估單元與資源列表存儲單元連接，所述資源列表存儲單元與資源定義單元連接，所述資源定義單元與資源定義存儲單元連接；

所述資源搜索單元用于搜索與主芯片相連接的各個從芯片的資源運算子信息；

所述資源評估單元用于將搜索得到的將資源運算子信息與從芯片的標識信息對應存儲于資源列表存儲單元中；

所述資源定義單元用于根據(jù)任務請求類型對應的神經(jīng)網(wǎng)絡結構參數(shù)，確定各個從芯片的資源運算子信息與神經(jīng)網(wǎng)絡運算之間的映射關系，并將映射關系和從芯片的標識信息對應存儲于資源定義存儲單元中；

所述裝置還包括初始值存儲單元、誤差計算單元、反向回寫單元、參數(shù)緩存單元；所述初始值存儲單元用于存儲任務請求對應的神經(jīng)網(wǎng)絡結構的各個參數(shù)元素的初始值；

所述第一處理單元用于獲取測試數(shù)據(jù)，根據(jù)初始值存儲單元中各個參數(shù)元素的配置初始值構建神經(jīng)網(wǎng)絡結構并進行神經(jīng)網(wǎng)絡計算，所述誤差計算單元用于判斷本次計算結果與真實信息的匹配度的誤差是否小于預設誤差，若是則判定為訓練完成，第一處理單元用于將參數(shù)緩存單元中各個參數(shù)元素的參數(shù)值更新為當前的各個參數(shù)值；否則第一處理單元用于根據(jù)本次訓練結果的匹配度相較于上一次訓練結果的匹配度的差異，調(diào)整各個參數(shù)元素的配置參數(shù)值，并通過反向回寫單元將調(diào)整后的參數(shù)值寫入?yún)?shù)緩存單元中，以及根據(jù)調(diào)整后的參數(shù)值獲取相應數(shù)量的各個參數(shù)元素，并再次進行神經(jīng)網(wǎng)絡計算，直至訓練完成。

2.如權利要求1所述的自動集群神經(jīng)網(wǎng)絡芯片組的運算裝置，其特征在于，從芯片之間的運算順序根據(jù)以下規(guī)則確定：滿足第一條件的從芯片的運算順序越靠前，當滿足第一條件的從芯片數(shù)量為多個，滿足第二條件的從芯片的運算順序越靠前；所述第一條件是指資源運算子信息滿足當前神經(jīng)網(wǎng)絡子層的運算需求，所述第二條件是指與主芯片之間的網(wǎng)絡延時最小。

3.如權利要求1所述的自動集群神經(jīng)網(wǎng)絡芯片組的運算裝置，其特征在于，所述裝置包括WIFI通信單元和初始值配置查詢單元；所述初始值配置查詢單元通過WIFI通信單元與互聯(lián)網(wǎng)連接；

所述初始值配置查詢單元用于在未從初始值存儲單元中查詢到任務請求對應的神經(jīng)網(wǎng)絡結構的各個參數(shù)元素的初始值時，通過WIFI通信單元從互聯(lián)網(wǎng)中搜索任務請求所需的神經(jīng)網(wǎng)絡結構配置參數(shù)初始值，并在搜索到需要的神經(jīng)網(wǎng)絡結構配置參數(shù)初始值后，將其存儲于初始值存儲單元中。