[發明專利]降低加速器外部數據存儲帶寬需求的二值化系統和方法

有效

• 申請號: 201810037869.1
• 申請日: 2018-01-16
• 公開（公告）號: CN110046699B
• 公開（公告）日: 2022-11-18
• 發明（設計）人: 李斌;羅聰;吳朝暉
• 申請（專利權）人: 華南理工大學
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06F9/302;G06F9/305;G06F12/0893
• 代理公司: 廣州嘉權專利商標事務所有限公司 44205
• 代理人: 胡輝

1.降低加速器外部數據存儲帶寬需求的二值化系統，其特征在于：包括：

輸入二值化單元，用于對輸入數據進行二值化處理，得到二值化的輸入數據；

二值化乘法計算單元，用于對二值化的數據和權值數據進行數據處理以及向緩存單元和算術邏輯計算單元輸出數據；所述數據處理包括乘法操作、定點數乘法操作、批標準化操作和激活操作，所述權值數據為二值化的權值數據；

緩存單元，用于緩存二值化乘法計算單元和算術邏輯計算單元輸出的數據；

算術邏輯計算單元，用于對二值化乘法計算單元輸出的數據以及對緩存單元中的緩存數據進行加減操作，以及向二值化乘法計算單元和算術邏輯計算單元輸出數據；

輸出二值化單元，用于對輸出數據進行二值化處理；

所述二值化乘法計算單元、緩存單元和算術邏輯計算單元之間兩兩互相連接，所述輸入二值化單元的輸出端與二值化乘法計算單元的輸入端連接，所述緩存單元的輸出端與輸出二值化單元連接。

2.根據權利要求1所述的降低加速器外部數據存儲帶寬需求的二值化系統，其特征在于：所述二值化乘法計算單元包括多個并行的PE計算單元，所述PE計算單元用于將由多位權值數據合并成的權值向量與由多位輸入數據合并成的輸入數據向量進行異或非操作，以及用于兩個定點數的乘法運算和比較操作。

3.根據權利要求1所述的降低加速器外部數據存儲帶寬需求的二值化系統，其特征在于：所述緩存單元為片上分布式緩存單元，所述緩存單元包括多個并行的存儲子單元，所述多個并行的存儲子單元用于并行緩存二值化乘法計算單元或者算術邏輯計算單元輸出的多個數據，或者用于向二值化乘法計算單元或者算術邏輯計算單元并行地輸出已緩存的多個數據。

4.根據權利要求1所述的降低加速器外部數據存儲帶寬需求的二值化系統，其特征在于：所述算術邏輯計算單元包括多個并行的加減計算子單元，所述多個加減計算子單元用于并行地計算二值化乘法計算單元或者緩存單元輸出的多個數據，或者用于向二值化乘法計算單元或者緩存單元并行地輸出多個數據。

5.根據權利要求1所述的降低加速器外部數據存儲帶寬需求的二值化系統，其特征在于：

所述輸出二值化單元和輸入二值化單元均包括數據二值化子單元和兵乓雙緩存子單元，所述數據二值化子單元用于將輸入數據與0進行比較，將大于0的數據二值化為1，將小于0的數據二值化為0；

所述兵乓雙緩存子單元用于緩存經過二值化的數據，并且由乒乓雙緩存子單元的兩個緩存器交替地與外部存儲器或者二值化乘法計算單元進行數據交換。

6.降低加速器外部數據存儲帶寬需求的二值化方法，其特征在于：包括以下步驟：

將輸入數據進行二值化處理，得到二值化的輸入數據；

對二值化后的輸入數據和權值數據進行異或非操作，所述權值數據為二值化的權值數據；

對異或非操作的結果進行定點乘法操作；

對定點乘法操作的結果進行批標準化操作；

對批標準化操作的結果進行激活，得到特征圖；

將特征圖進行二值化處理，并將二值化處理后的特征圖輸出至外部存儲器。

7.根據權利要求6所述的降低加速器外部數據存儲帶寬需求的二值化方法，其特征在于：所述對二值化后的輸入數據和權值數據進行異或非操作，這一步驟包括：

對二值化的輸入數據和權值數據進行異或非操作，計算出異或非操作的結果中“1”的個數和“0”的個數；

計算異或非操作的結果中“1”的個數和“0”的個數的差值，并以該差值作為異或非操作的結果。

8.根據權利要求6所述的降低加速器外部數據存儲帶寬需求的二值化方法，其特征在于：所述二值化處理具體指，將輸入數據與0進行比較，將大于0的數據二值化為1，將小于0的數據二值化為0。