[發明專利]用于執行矩陣計算的方法、計算設備和計算機存儲介質

有效

• 申請號: 202111035783.3
• 申請日: 2021-09-06
• 公開（公告）號: CN113496008B
• 公開（公告）日: 2021-12-03
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 北京壁仞科技開發有限公司;上海壁仞智能科技有限公司
• 主分類號: G06F17/16
• 分類號: G06F17/16;G06N3/04;G06N3/08
• 代理公司: 北京市金杜律師事務所 11256
• 代理人: 王茂華

本公開的實施例涉及用于執行矩陣計算的方法、計算設備和計算機存儲介質。根據該方法，獲取目標矩陣，目標矩陣包括具有第一尺寸的多個子矩陣，目標矩陣被劃分為具有第二尺寸的多個塊，第二尺寸與第一尺寸不同；對于多個塊中的每個當前塊，生成當前塊中的左子矩陣邊界相對于當前塊中的預定列的第一偏移量、當前塊中的右子矩陣邊界相對于當前塊中的預定列的第二偏移量、當前塊中的上子矩陣邊界相對于當前塊中的預定行的第三偏移量和當前塊中的下子矩陣邊界相對于當前塊中的預定行的第四偏移量；以及基于第一偏移量、第二偏移量、第三偏移量和第四偏移量，對當前塊進行填充。由此，能夠減少用于表示塊內的樣本邊界的比特數量。

技術領域

本公開的實施例總體涉及信息處理領域，具體涉及用于執行矩陣計算的方法、計算設備和計算機存儲介質。

背景技術

用于卷積運算的矩陣通常稱為樣本。多個小的樣本可以組成更大的樣本作為卷積的輸入，以提高計算效率。所組成的更大樣本可以劃分為多個塊（也可以稱為片，tile）。卷積或矩陣乘加等運算例如可以逐塊進行。進行卷積或矩陣乘加等運算時，會對一些塊進行填充。由于塊內部存在樣本邊界，因此需要識別塊內部的樣本邊界，以用于卷積或矩陣乘加等運算所需的填充。

傳統方案通過為每個塊生成塊大小的掩碼來指示塊內部的樣本邊界。例如，對于8x8的塊而言，生成64比特的掩碼，掩碼中的樣本邊界比特被設置為1，并且掩碼中的非樣本邊界比特被設置為0，或者反之亦然。

發明內容

提供了一種用于執行矩陣計算的方法、計算設備以及計算機存儲介質，能夠減少用于表示塊內的樣本邊界的比特數量，從而降低總線傳輸數據量和存儲空間。

根據本公開的第一方面，提供了一種用于執行矩陣計算的方法。該方法包括：在計算設備處，獲取目標矩陣，目標矩陣包括具有第一尺寸的多個子矩陣，目標矩陣被劃分為具有第二尺寸的多個塊，第二尺寸與第一尺寸不同；對于多個塊中的每個當前塊，執行以下步驟：生成當前塊中的左子矩陣邊界相對于當前塊中的預定列的第一偏移量、當前塊中的右子矩陣邊界相對于當前塊中的預定列的第二偏移量、當前塊中的上子矩陣邊界相對于當前塊中的預定行的第三偏移量和當前塊中的下子矩陣邊界相對于當前塊中的預定行的第四偏移量；以及基于第一偏移量、第二偏移量、第三偏移量和第四偏移量，對當前塊進行填充。

根據本公開的第二方面，提供了一種計算設備。該計算設備包括：存儲器；處理器，與存儲器相耦合，被配置成：獲取目標矩陣，目標矩陣包括具有第一尺寸的多個子矩陣，目標矩陣被劃分為具有第二尺寸的多個塊，第二尺寸與第一尺寸不同；對于多個塊中的每個當前塊，生成當前塊中的左子矩陣邊界相對于當前塊中的預定列的第一偏移量、當前塊中的右子矩陣邊界相對于當前塊中的預定列的第二偏移量、當前塊中的上子矩陣邊界相對于當前塊中的預定行的第三偏移量和當前塊中的下子矩陣邊界相對于當前塊中的預定行的第四偏移量；以及矩陣計算單元，與存儲器和處理器相耦合，被配置成：對于多個塊中的每個當前塊，基于第一偏移量、第二偏移量、第三偏移量和第四偏移量，對當前塊進行填充。

在本公開的第三方面中，提供了一種計算機可讀存儲介質，其上存儲有計算機程序，該程序被處理器執行時實現根據本公開的第一方面的方法。

應當理解，本部分所描述的內容并非旨在標識本公開的實施例的關鍵或重要特征，也不用于限制本公開的范圍。本公開的其它特征將通過以下的說明書而變得容易理解。

附圖說明

結合附圖并參考以下詳細說明，本公開各實施例的上述和其他特征、優點及方面將變得更加明顯。在附圖中，相同或相似的附圖標注表示相同或相似的元素。

圖1是根據本公開的實施例的計算設備100的示意圖。

圖2是根據本公開的實施例的用于執行矩陣計算的方法200的示意圖。

圖3是根據本公開的實施例的目標矩陣300的示意圖。

圖4是根據本公開的實施例的塊的填充結果400的示意圖。