[發(fā)明專利]一種用于執(zhí)行人工神經(jīng)網(wǎng)絡(luò)全連接層正向運(yùn)算的裝置和方法

在審

• 申請?zhí)枺?/td>: 202010614867.1
• 申請日: 2016-04-27
• 公開（公告）號: CN111860811A
• 公開（公告）日: 2020-10-30
• 發(fā)明（設(shè)計(jì)）人: 劉少禮;蘭慧盈;郭崎;陳云霽;陳天石
• 申請（專利權(quán)）人: 中科寒武紀(jì)科技股份有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06N3/04;G06N3/08
• 代理公司: 暫無信息
• 代理人: 暫無信息

1.一種用于執(zhí)行人工神經(jīng)網(wǎng)絡(luò)全連接層正向運(yùn)算的裝置，其特征在于，所述裝置用于執(zhí)行人工神經(jīng)網(wǎng)絡(luò)全連接層正向運(yùn)算的指令，所述裝置包括控制器單元、互連模塊、主運(yùn)算模塊、以及多個(gè)從運(yùn)算模塊，其中：

控制器單元用于將指令譯碼成控制信號，以控制互連模塊、主運(yùn)算模塊以及多個(gè)從運(yùn)算模塊的行為；

主運(yùn)算模塊用于實(shí)現(xiàn)人工神經(jīng)網(wǎng)絡(luò)全連接層算法中的函數(shù)激活運(yùn)算；

從運(yùn)算模塊用于實(shí)現(xiàn)人工神經(jīng)網(wǎng)絡(luò)全連接層算法中的輸入神經(jīng)元和權(quán)值的乘法和加法運(yùn)算；

互連模塊用于連接主運(yùn)算模塊和從運(yùn)算模塊，以用于所述主運(yùn)算模塊和所述從運(yùn)算模塊之間的數(shù)據(jù)傳輸。

2.根據(jù)權(quán)利要求1所述的裝置，其特征在于，所述互聯(lián)模塊還用于在神經(jīng)網(wǎng)絡(luò)全連接層正向運(yùn)算開始之前，將主運(yùn)算模塊中的輸入神經(jīng)元傳輸?shù)矫恳粋€(gè)從運(yùn)算模塊；以及在從運(yùn)算模塊的計(jì)算過程結(jié)束后，將各從運(yùn)算模塊的輸出神經(jīng)元拼成中間結(jié)果向量，傳輸回主運(yùn)算模塊，用于后續(xù)計(jì)算。

3.根據(jù)權(quán)利要求2所述的裝置，其中所述后續(xù)計(jì)算包括對中間結(jié)果向量加偏置，然后執(zhí)行激活操作。

4.根據(jù)權(quán)利要求1所述的裝置，其特征在于，所述主運(yùn)算模塊包括第一存儲(chǔ)單元、第一運(yùn)算單元和第一數(shù)據(jù)依賴關(guān)系判定單元，其中：

第一存儲(chǔ)單元用于緩存主運(yùn)算模塊在計(jì)算過程中用到的輸入數(shù)據(jù)和輸出數(shù)據(jù)；

第一數(shù)據(jù)依賴關(guān)系判定單元是第一運(yùn)算單元讀寫第一存儲(chǔ)單元的端口，以確保對第一存儲(chǔ)單元的數(shù)據(jù)讀寫不存在一致性沖突。

5.根據(jù)權(quán)利要求1所述的裝置，其特征在于，所述每個(gè)從運(yùn)算模塊包括第二運(yùn)算單元、第二數(shù)據(jù)依賴關(guān)系判定單元、第二存儲(chǔ)單元和第三存儲(chǔ)單元，其中：

第二運(yùn)算單元用于接收控制器單元發(fā)出的控制信號并進(jìn)行算數(shù)邏輯運(yùn)算；

第二數(shù)據(jù)依賴關(guān)系判定單元用于計(jì)算過程中對第二存儲(chǔ)單元和第三存儲(chǔ)單元的讀寫操作，以確保對第二存儲(chǔ)單元和第三存儲(chǔ)單元的讀寫不存在一致性沖突；

第二存儲(chǔ)單元緩存輸入神經(jīng)元以及該從運(yùn)算模塊計(jì)算得到的輸出神經(jīng)元；以及

第三存儲(chǔ)單元緩存該從運(yùn)算模塊在計(jì)算過程中需要的權(quán)值。

6.根據(jù)權(quán)利要求1-5中任一項(xiàng)所述的裝置，其中，所述多個(gè)從運(yùn)算模塊，用于根據(jù)相同的輸入神經(jīng)元和各自的權(quán)值，并行地計(jì)算出各自的輸出神經(jīng)元，每個(gè)從運(yùn)算模塊的權(quán)值是權(quán)值矩陣中與該從運(yùn)算模塊相對應(yīng)的行向量。

7.根據(jù)權(quán)利要求4或5所述的裝置，其中，第一數(shù)據(jù)依賴關(guān)系判定單元或第二數(shù)據(jù)依賴關(guān)系判定單元通過以下方式確保讀寫不存在一致性沖突：判斷尚未執(zhí)行的控制信號與正在執(zhí)行過程中的控制信號的數(shù)據(jù)之間是否存在依賴關(guān)系，如果不存在，允許該條控制信號立即發(fā)射，否則需要等到該條控制信號所依賴的所有控制信號全部執(zhí)行完成后該條控制信號才允許被發(fā)射。

8.根據(jù)權(quán)利要求1所述的裝置，其特征在于，還包括數(shù)據(jù)訪問單元和指令存儲(chǔ)單元，其中，

所述數(shù)據(jù)訪問單元用于執(zhí)行外部地址空間與所述裝置之間的數(shù)據(jù)或指令讀寫操作；

所述指令存儲(chǔ)單元通過數(shù)據(jù)訪問單元讀入指令并存儲(chǔ)讀入的指令；

所述控制器單元用于從指令存儲(chǔ)單元中讀取指令，將指令譯碼成控制互連模塊、主運(yùn)算模塊、多個(gè)從運(yùn)算模塊以及數(shù)據(jù)訪問單元行為的控制信號。