[發明專利]一種正負數兼容的存內運算方法、乘加運算裝置及其應用

有效

• 申請號: 202110984101.7
• 申請日: 2021-08-25
• 公開（公告）號: CN113672860B
• 公開（公告）日: 2023-05-12
• 發明（設計）人: 盛榮華;陶臨風;李政達;呂向東;任軍;陳真;歐陽托日;唐偉童
• 申請（專利權）人: 恒爍半導體（合肥）股份有限公司
• 主分類號: G06F17/16
• 分類號: G06F17/16;G06F17/15;G06F7/544
• 代理公司: 合肥陸緯知識產權代理事務所(普通合伙) 34218
• 代理人: 袁浩

本發明涉及存儲器技術領域，公開了一種正負數兼容的存內運算方法、乘加運算裝置及其應用，其中方法包括基于由存儲運算單元組成的存儲陣列，對原輸入數據和原權重選擇進行差分、偏置配對處理運算或者全偏置處理運算，包括采用差分輸入和偏置權重匹配或者差分權重和偏置輸入匹配或偏置輸入和偏置權重匹配進行乘法運算，并在此基礎上進行乘加運算；本發明能夠可以高效地完成包括負數乘法在內的存內計算，創新的電路結構設計能夠獲得更高的通用性，達到更好的計算性能和性能功耗比，有著切實意義上的實用價值。

技術領域

本發明涉及存儲器術領域，具體涉及一種正負數兼容的存內運算方法、乘加運算裝置及其應用。

背景技術

存內計算被廣泛應用于人工智能的矩陣運算加速，常見的有向量矩陣乘法，以及卷積運算。對于以計算密集且存儲密集為特點的人工智能算法而言，存內運算被認為是突破現有計算機架構的新范式。

由于物理特性的影響，存內計算多處理的是非負數的計算。但實際人工智能算法中，為了追求更高的準確度，常常需要進行負數運算，如何高效地進行負數運算，是存內計算的關鍵。

現有的可以處理負數計算的存內結構器面積較大、計算方法較為復雜，計算應用規模受限，亟需改進。

發明內容

針對現有技術的不足，本發明提供一種正負數兼容的存內運算方法、裝置及應用，相比于現有的技術能夠在不增加面積成本的前提下，將計算性能提升了一倍，達到了更好的計算性能和性能功耗比。

本發明解決技術問題采用如下技術方案：

本發明提供一種正負數兼容的存內運算方法所述方法包括：

基于由存儲運算單元組成的存儲陣列，對原輸入數據和原權重選擇進行差分、偏置配對處理運算或者全偏置處理運算，其中，差分、偏置配對處理運算包括：

若將原輸入數據配置為兩路差分輸入，則設定參考權重偏置，對原權重進行偏置處理得到偏置權重，基于偏置權重和參考權重偏置配置存儲運算單元的閾值電壓，分別采集差分輸入與偏置權重和參考權重偏置的乘積信號，并以差值形式輸出；

若將原權重配置為兩路差分權重，則設定參考輸入偏置，對原輸入數據進行偏置處理得到偏置輸入，基于兩路差分權重配置一對存儲運算單元的閾值電壓，分別采集偏置輸入和參考輸入偏置與兩路差分權重的乘積信號，并以差值形式輸出；

全偏置處理運算包括：設定參考權重偏置和參考輸入偏置，對原權重和原輸入數據分別進行偏置處理得到偏置權重和偏置輸入，基于偏置權重和參考權重偏置配置存儲運算單元的閾值電壓，分別采集偏置輸入和參考輸入偏置與偏置權重和參考權重偏置的乘積信號，分組作差后輸出。

優選地，所述存儲陣列為NOR?Flash存儲陣列；

所述原輸入數據為待運算數字輸入通過DAC模塊轉換的模擬信號；

所述以差值形式輸出或分組作差后輸出還包括將輸出的模擬信號經ADC模塊轉換為數字信號進行輸出；

所述配置存儲運算單元的閾值電壓具體包括：

首先對存儲運算單元進行離線標定，獲取其初始參數，得到各存儲運算單元自身閾值電壓V_TH隨編程操作的變化曲線；

根據偏置權重、參考權重偏置或者兩路差分權重以及變化曲線配置對應存儲運算單元的閾值電壓。

優選地，所述參考權重偏置的設定標準為：原權重為正數權重時，偏置處理后的偏置權重大于參考權重偏置；原權重為負數權重時，偏置處理后的偏置權重小于參考權重偏置；

所述參考輸入偏置的設定標準為：原輸入數據為正數時，偏置處理后的偏置輸入大于參考輸入偏置；原輸入數據為負數時，偏置處理后的偏置輸入小于參考輸入偏置。