[發(fā)明專利]一種用于人工智能的加速方法和裝置

有效

• 申請(qǐng)?zhí)枺?/td>: 201810553342.4
• 申請(qǐng)日: 2018-06-01
• 公開(kāi)（公告）號(hào): CN108717571B
• 公開(kāi)（公告）日: 2020-09-15
• 發(fā)明（設(shè)計(jì)）人: 肖東晉;張立群
• 申請(qǐng)（專利權(quán)）人: 阿依瓦（北京）技術(shù)有限公司
• 主分類號(hào): G06N3/063
• 分類號(hào): G06N3/063;G06T1/60
• 代理公司: 上海智晟知識(shí)產(chǎn)權(quán)代理事務(wù)所(特殊普通合伙) 31313
• 代理人: 張東梅

1.一種用于人工智能的加速裝置，包括：

模板存儲(chǔ)器，所述模板存儲(chǔ)器存儲(chǔ)待計(jì)算的模板系數(shù)；

輸入數(shù)據(jù)存儲(chǔ)器，所述輸入數(shù)據(jù)存儲(chǔ)器包括多個(gè)先進(jìn)先出FIFO緩存，每個(gè)先進(jìn)先出FIFO緩存存儲(chǔ)一行圖像數(shù)據(jù)；

加速鏈，所述加速鏈包括第一卷積單元至第N卷積單元，N為大于等于1的整數(shù)，所述第一卷積單元至第N卷積單元中每一個(gè)均包括模板數(shù)據(jù)輸入端口、圖像數(shù)據(jù)輸入端口、第一圖像數(shù)據(jù)輸出端口、第二圖像數(shù)據(jù)輸出端口以及卷積和輸出端口；每一個(gè)模板數(shù)據(jù)輸入端口與所述模板存儲(chǔ)器連接；第一卷積單元的圖像數(shù)據(jù)輸入端口連接到輸入數(shù)據(jù)存儲(chǔ)器；第一卷積單元的第一圖像數(shù)據(jù)輸出端口連接到第二卷積單元的圖像數(shù)據(jù)輸入端口；第二卷積單元的第一圖像數(shù)據(jù)輸出端口連接到第三卷積單元的圖像數(shù)據(jù)輸入端口；…第N-1卷積單元的第一圖像數(shù)據(jù)輸出端口連接到第N卷積單元的圖像數(shù)據(jù)輸入端口；第N卷積單元的第一圖像數(shù)據(jù)輸出端口連接到輸入數(shù)據(jù)存儲(chǔ)器；第一卷積單元至第N卷積單元中每一個(gè)的卷積和輸出端口分別與結(jié)果存儲(chǔ)器相連，所述第一卷積單元至第N卷積單元中每一個(gè)的第二圖像數(shù)據(jù)輸出端口連接到輸入數(shù)據(jù)存儲(chǔ)器；以及

結(jié)果存儲(chǔ)器，第一卷積單元至第N卷積單元中每一個(gè)的卷積和輸出端口分別與結(jié)果存儲(chǔ)器相連。

2.如權(quán)利要求1所述的加速裝置，其特征在于，還包括：

累加器，所述累加器對(duì)卷積計(jì)算結(jié)果進(jìn)行循環(huán)累加；

池化單元，所述池化單元對(duì)所述累加器的輸出結(jié)果進(jìn)行池化處理；

非線性單元，所述非線性單元對(duì)計(jì)算結(jié)果進(jìn)行非線性化處理；和/或

存儲(chǔ)單元，所述存儲(chǔ)單元存儲(chǔ)非線性化處理后的數(shù)據(jù)。

3.如權(quán)利要求2所述的加速裝置，其特征在于，所述存儲(chǔ)單元與輸入數(shù)據(jù)存儲(chǔ)器相連，將存儲(chǔ)單元存儲(chǔ)的數(shù)據(jù)作為下一級(jí)卷積計(jì)算的輸入數(shù)據(jù)。

4.一種用于權(quán)利要求1至3中任一項(xiàng)所述的加速裝置的加速方法，包括：

確定卷積計(jì)算的模板尺寸、圖像尺寸和模板個(gè)數(shù)M；

基于圖像尺寸、模板尺寸、模板個(gè)數(shù)和/或加速裝置的計(jì)算能力確定加速鏈中卷積單元的個(gè)數(shù)N和數(shù)據(jù)循環(huán)的最短長(zhǎng)度；

將模板系數(shù)加載到加速鏈中的卷積單元；

在FIFO緩存中加載多行圖像數(shù)據(jù)；

啟動(dòng)數(shù)據(jù)流，圖像數(shù)據(jù)從FIFO緩存進(jìn)入第一卷積單元的圖像數(shù)據(jù)輸入端口，每次向第一卷積單元的圖像數(shù)據(jù)輸入端口提供一列數(shù)據(jù)，后一列圖像數(shù)據(jù)將前一列圖像數(shù)據(jù)向前推動(dòng)一位，邊流動(dòng)邊計(jì)算；

將每次計(jì)算的結(jié)果存儲(chǔ)在結(jié)果存儲(chǔ)器的指定存儲(chǔ)位置。

5.如權(quán)利要求4所述的加速方法，其特征在于，將模板系數(shù)加載到加速鏈中的卷積單元還包括：

判斷模板個(gè)數(shù)M是否小于或等于加速鏈中卷積單元的個(gè)數(shù)N；

如果模板個(gè)數(shù)M小于或等于加速鏈中卷積單元的個(gè)數(shù)N，則將M個(gè)模板系數(shù)加載到加速鏈中的前M個(gè)卷積單元。

6.如權(quán)利要求5所述的加速方法，其特征在于，還包括：

將第N卷積單元輸出的圖像數(shù)據(jù)輸入FIFO緩存，當(dāng)?shù)谝涣袌D像數(shù)據(jù)再次出現(xiàn)在第一卷積單元左端時(shí)，一次數(shù)據(jù)循環(huán)結(jié)束；

判斷是否存在未計(jì)算的一行或多行圖像數(shù)據(jù)，

如果存在未計(jì)算的一行或多行圖像數(shù)據(jù)，則返回在FIFO緩存中加載多行圖像數(shù)據(jù)的步驟，利用新的一行圖像數(shù)據(jù)更新FIFO緩存，圖像數(shù)據(jù)再進(jìn)入第一卷積單元，再次進(jìn)行數(shù)據(jù)循環(huán)。

7.如權(quán)利要求5所述的加速方法，其特征在于，忽略第M+1卷積單元至第N卷積單元，

將第M卷積單元輸出的圖像數(shù)據(jù)輸入FIFO緩存，當(dāng)?shù)谝涣袌D像數(shù)據(jù)再次出現(xiàn)在第一卷積單元左端時(shí)，一次數(shù)據(jù)循環(huán)結(jié)束；

判斷是否存在未計(jì)算的一行或多行圖像數(shù)據(jù)，

如果存在未計(jì)算的一行或多行圖像數(shù)據(jù)，則返回在FIFO緩存中加載多行圖像數(shù)據(jù)的步驟，利用新的一行圖像數(shù)據(jù)更新FIFO緩存，圖像數(shù)據(jù)再進(jìn)入第一卷積單元，再次進(jìn)行數(shù)據(jù)循環(huán)。