[發明專利]基于存儲器內運算電路架構的量化方法及其系統

在審

• 申請號: 202010199479.1
• 申請日: 2020-03-20
• 公開（公告）號: CN113496274A
• 公開（公告）日: 2021-10-12
• 發明（設計）人: 鄭桂忠;魏瑋辰
• 申請（專利權）人: 鄭桂忠
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06N3/04;G06N3/08
• 代理公司: 隆天知識產權代理有限公司 72003
• 代理人: 黃艷

1.一種基于存儲器內運算電路架構的量化方法，其特征在于，包含以下步驟：

一量化參數提供步驟，是提供一量化參數，該量化參數包含一輸入激勵函數、一量化權重及一分群數值；

一參數分群步驟，是依據該分群數值將該量化權重分成多個分群量化權重，并依據該分群數值將該輸入激勵函數分成多個分群激勵函數；

一乘積累加步驟，是將任一該分群量化權重及任一該分群激勵函數執行一乘積累加運算而產生一卷積輸出；

一卷積量化步驟，是依據一卷積目標位元將該卷積輸出量化成一量化卷積輸出；以及

一卷積合并步驟，是依據該分群數值將該量化卷積輸出執行一部分和運算而產生一輸出激勵函數。

2.如權利要求1所述的基于存儲器內運算電路架構的量化方法，其特征在于，該輸入激勵函數具有一輸入通道數，該分群數值經由該輸入通道數與一控制參數運算求得，該分群數值等于該輸入通道數除以該控制參數，該分群數值為正整數，并大于1且小于等于該輸入通道數。

3.如權利要求2所述的基于存儲器內運算電路架構的量化方法，其特征在于，還包含：

一迭代執行步驟，是依據一迭代次數重復執行該乘積累加步驟、該卷積量化步驟及該卷積合并步驟，該迭代次數等于該分群數值。

4.如權利要求1所述的基于存儲器內運算電路架構的量化方法，其特征在于，該量化參數提供步驟包含：

一權重量化步驟，是依據一權重目標位元將一權重量化成該量化權重，該權重量化步驟包含該權重目標位元、該權重、一映射后量化權重、一量化方程式及該量化權重，該權重目標位元表示為b_W，該權重表示為W_l，該量化方程式表示為quan，該量化權重表示為W_l^q且符合下式：

及

5.如權利要求1所述的基于存儲器內運算電路架構的量化方法，其特征在于，還包含：

一激勵量化步驟，是依據一激勵目標位元將該輸出激勵函數量化成一量化輸出激勵函數，該激勵量化步驟包含該輸出激勵函數、一剪輯函數、一映射后激勵函數、該激勵目標位元、一量化方程式及該量化輸出激勵函數，該輸出激勵函數表示為A_l，該剪輯函數表示為Clip，該映射后激勵函數表示為，該激勵目標位元表示為b_A，該量化方程式表示為quan，該量化輸出激勵函數表示為且符合下式：

及

6.如權利要求1所述的基于存儲器內運算電路架構的量化方法，其特征在于。該卷積量化步驟包含：

執行一直通估計量化法，該直通估計量化法包含該卷積輸出、該卷積目標位元、一映射后卷積輸出、一量化方程式及該量化卷積輸出，該卷積輸出表示為A_l,k，該卷積目標位元表示為b_AD，該映射后卷積輸出表示為該量化方程式表示為quan，該量化卷積輸出表示為該直通估計量化法符合下式：

及