[發明專利]用于卷積計算的方法、計算設備和計算機可讀存儲介質

有效

• 申請號: 202011484326.8
• 申請日: 2020-12-16
• 公開（公告）號: CN112614040B
• 公開（公告）日: 2021-09-21
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 上海壁仞智能科技有限公司
• 主分類號: G06T1/20
• 分類號: G06T1/20;G06F17/15;G06N3/063
• 代理公司: 北京市金杜律師事務所 11256
• 代理人: 黃倩

本公開涉及一種用于卷積計算的方法、計算設備和計算機可讀存儲介質。該方法包括：如果確定當前周期為初始周期，從輸入緩存向脈動陣列加載n*n像素的數據，脈動陣列包括第一預定數目行乘以第二預定數目列的處理單元，初始周期與初始權重相關聯，n為自然數；如果確定當前周期為初始周期之后的其他周期，基于當前周期的順序，向脈動陣列加載一列像素的數據、一行像素的數據或者一個像素的數據；以及如果確定完成當前周期所對應的數據加載，經由輸出復用單元，在脈動陣列中的一組或多組n*n像素的數據中選擇一組n*n像素的數據，以便提供至通用矩陣乘單元。根據本公開的實施例，能夠有效降低帶寬占用和功率消耗。

技術領域

本公開的實施例總體上涉及機器學習領域，更具體地涉及一種用于卷積計算的方法、計算設備和計算機可讀存儲介質。

背景技術

機器學習中的典型運算為卷積計算，卷積計算是將卷積核中的權重和對應的輸入像素塊相乘再相加進而生成對應輸出特征的值。塊卷積需要img2col(圖像到列)函數將像素塊轉換為矩陣，傳統卷積計算的方法，例如基于img2col函數的塊卷積計算，其要求每個周期加載每個權重的完整像素。例如，在原始的2x2像素的圖像數據經由填充(padding)處理得到的4x4像素的圖像數據上進行3x3的塊卷積(9個權重，從weight 0到weight 8，對應于初始周期至第八周期，即cycle 0至cycle 8)的運算時，每個周期需要加載完整的2x2像素的數據。由于對于相鄰周期，所需加載的像素數據存在相同的數據，重新加載完整的2x2像素的數據會導致浪費帶寬和功率。

綜上，傳統的卷積計算方案因每個周期需要重新加載對應于每個權重的完整像素，因此導致占用更多帶寬和消耗更高的功率。

發明內容

本公開提供了一種用于卷積計算的方法、計算設備和計算機可讀存儲介質，能夠有效降低帶寬占用和功率消耗。

根據本公開的第一方面，提供了一種用于卷積計算的方法。該方法包括：如果確定當前周期為初始周期，從輸入緩存向脈動陣列加載n*n像素的數據，脈動陣列包括第一預定數目行乘以第二預定數目列的處理單元，初始周期與初始權重相關聯，n為自然數；如果確定當前周期為初始周期之后的其他周期，基于當前周期的順序，向脈動陣列加載一列像素的數據、一行像素的數據或者一個像素的數據；以及如果確定完成當前周期所對應的數據加載，經由輸出復用單元，在脈動陣列中的一組或多組n*n像素的數據中選擇一組n*n像素的數據，以便提供至通用矩陣乘單元。

根據本發明的第二方面，還提供了一種計算設備，該設備包括：輸入緩存，用于緩存待加載的數據；輸入復用單元，用于在初始周期，將來自輸入緩存的n*n像素的待加載的數據向脈動陣列加載，以及在初始周期之后的其他周期，向脈動陣列加載一列像素的數據、一行像素的數據或者一個像素的數據；脈動陣列，被配置在輸入緩存和通用矩陣乘單元之間，脈動陣列包括第一預定數目行乘以第二預定數目列的處理單元；以及輸出復用單元，用于在每一個周期從脈動陣列中的一組或者多組n*n像素的數據中選擇一組n*n像素的數據，以便提供至通用矩陣乘單元。

根據本公開的第三方面，還提供了一種計算機可讀存儲介質。該計算機可讀存儲介質上存儲有計算機程序，計算機程序被機器執行時執行本公開的第一方面的方法。

在一些實施例中，從輸入緩存向脈動陣列加載n*n像素的數據包括：經由輸入復用單元，從輸入緩存向脈動陣列加載n*n像素的數據，輸入復用單元包括多個第一輸入復用單元和一個第二輸入復用單元。

在一些實施例中，基于當前周期的順序向脈動陣列加載一列像素的數據、一行像素的數據或者一個像素的數據包括：如果確定當前周期為第一周期，向脈動陣列加載第n+1列像素的數據；以及如果確定當前周期為第二周期，向脈動陣列加載第n+2列像素的數據。