[發(fā)明專利]一種計算裝置及相關產(chǎn)品

在審

• 申請?zhí)枺?/td>: 201811566331.6
• 申請日: 2018-12-20
• 公開（公告）號: CN111353591A
• 公開（公告）日: 2020-06-30
• 發(fā)明（設計）人: 不公告發(fā)明人
• 申請（專利權(quán)）人: 中科寒武紀科技股份有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063
• 代理公司: 廣州三環(huán)專利商標代理有限公司 44202
• 代理人: 郝傳鑫;熊永強

1.一種計算裝置，其特征在于，所述計算裝置用于執(zhí)行機器學習計算，所述計算裝置包括：壓縮單元、運算單元以及控制器單元；

所述控制器單元，用于獲取針對第一輸入數(shù)據(jù)的壓縮請求，并根據(jù)所述壓縮請求指示所述壓縮單元對所述第一輸入數(shù)據(jù)進行壓縮；其中，所述第一輸入數(shù)據(jù)包括第一權(quán)值矩陣；

所述壓縮單元，用于將第一權(quán)值矩陣壓縮為第二權(quán)值矩陣；

所述控制器單元，還用于獲取第二輸入數(shù)據(jù)以及計算指令；所述第二輸入數(shù)據(jù)包括所述第二權(quán)值矩陣以及輸入神經(jīng)元數(shù)據(jù)；

所述控制器單元，還用于解析該計算指令得到多個運算指令，將所述多個運算指令以及所述第二輸入數(shù)據(jù)發(fā)送給運算單元；

所述運算單元，用于獲取所述運算指令，并根據(jù)所述運算指令以及所述第二輸入數(shù)據(jù)執(zhí)行神經(jīng)網(wǎng)絡計算。

2.根據(jù)權(quán)利要求1所述的計算裝置，其特征在于，所述壓縮單元包括：分解單元、求解單元和訓練單元；

其中，所述分解單元，用于將所述第一權(quán)值矩陣分解成第三權(quán)值矩陣；其中，所述第三權(quán)值矩陣包括至少兩個子矩陣；

所述求解單元，用于根據(jù)第一公式確定所述至少兩個子矩陣中的每個子矩陣的大小，所述第一公式為Q≈Q₁*Q₂*......*Q_n；其中，所述Q表示第一權(quán)值矩陣；所述Q₁表示所述至少兩個子矩陣中的第一子矩陣；所述Q₂表示所述至少兩個子矩陣中的第二子矩陣；所述Q_n表示所述至少兩個子矩陣中的第n子矩陣；

所述訓練單元，用于調(diào)整所述至少兩個子矩陣中的每個子矩陣的大小，并通過訓練壓縮后的機器學習模型，以得到滿足預設精度的第二權(quán)值矩陣。

3.根據(jù)權(quán)利要求2所述的計算裝置，其特征在于，所述求解單元，用于根據(jù)第一公式確定所述至少兩個子矩陣中的每個子矩陣，所述第一公式為Q≈Q₁*Q₂*......*Q_n，包括：

所述求解單元，具體用于根據(jù)所述第一公式和第二公式確定所述至少兩個子矩陣中的每個子矩陣的大小，所述第二公式為||Q-Q₁*Q₂*......*Q_n||≤T，其中，所述T表示預設的誤差閾值。

4.根據(jù)權(quán)利要求2所述的計算裝置，其特征在于，所述訓練單元，用于調(diào)整所述至少兩個子矩陣中的每個子矩陣的大小，并通過訓練壓縮后的機器學習模型，以得到滿足預設精度的第二權(quán)值矩陣，包括：

所述訓練單元，具體用于調(diào)整所述至少兩個子矩陣中的每個子矩陣的大小，并通過訓練壓縮后的機器學習模型，以得到滿足預設精度并且與所述第一權(quán)值矩陣之間的壓縮比滿足預設壓縮比的第二權(quán)值矩陣。

5.根據(jù)權(quán)利要求2至4任一項所述的計算裝置，其特征在于，所述計算裝置用于執(zhí)行全連接層神經(jīng)網(wǎng)絡計算；所述至少兩個子矩陣包括兩個子矩陣；所述第一公式包括：M≈M₁*M₂；所述兩個子矩陣包括第一子矩陣M1和第二子矩陣M2，所述M1為N_in*K矩陣，所述M2為K*N_out矩陣；其中，K為壓縮參數(shù)，N_in為所述神經(jīng)網(wǎng)絡的輸入神經(jīng)元的個數(shù)，N_out為所述神經(jīng)網(wǎng)絡的輸出神經(jīng)元的個數(shù)；所述壓縮參數(shù)用于表征所述M1的輸出神經(jīng)元的個數(shù)以及所述M2的輸入神經(jīng)元的個數(shù)，所述K為大于0且小于等于min(N_in，N_out)的正整數(shù)。