[發(fā)明專利]存儲方法、裝置、系統(tǒng)及介質

有效

• 申請?zhí)枺?/td>: 201810107864.1
• 申請日: 2018-02-02
• 公開（公告）號: CN108875922B
• 公開（公告）日: 2022-06-10
• 發(fā)明（設計）人: 周舒暢;郭嘉丞
• 申請（專利權）人: 北京曠視科技有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06N3/04;G06N3/08
• 代理公司: 北京睿邦知識產權代理事務所(普通合伙) 11481
• 代理人: 徐丁峰;張瑋

本發(fā)明的實施例提供了一種存儲方法、裝置、系統(tǒng)及介質。該方法包括：確定與神經(jīng)網(wǎng)絡中的M個整數(shù)權重分別一一對應的M個n位二進制數(shù)，其中所述M個n位二進制數(shù)表示的取值范圍以0為中心，并以特定間隔在數(shù)軸上對稱分布，n為正整數(shù)；將所述神經(jīng)網(wǎng)絡的N個第一響應值映射到所述取值范圍內，以獲得與所述N個第一響應值分別一一對應的N個第二響應值；確定與所述N個第二響應值分別一一對應的N個n位二進制數(shù)，所述N個n位二進制數(shù)表示的取值范圍以0為中心，并以所述特定間隔在數(shù)軸上對稱分布；以及存儲所述M個n位二進制數(shù)和所述N個n位二進制數(shù)。上述技術方案在保證神經(jīng)網(wǎng)絡的計算性能的前提下，顯著減少神經(jīng)網(wǎng)絡的相關數(shù)據(jù)的存儲空間。

技術領域

本發(fā)明涉及人工智能技術領域，更具體地涉及一種存儲方法、裝置、系統(tǒng)及介質。

背景技術

人工神經(jīng)網(wǎng)絡是一種基于模仿生物神經(jīng)網(wǎng)絡的結構和功能的數(shù)學模型，可以對某一類或者一些問題進行函數(shù)的模擬和近似。由于大數(shù)據(jù)的發(fā)展，神經(jīng)網(wǎng)絡目前在圖像、語音以及自然語言處理等具有海量數(shù)據(jù)庫的方向上有著非常廣泛的應用。

目前，由于對神經(jīng)網(wǎng)絡的準確度的要求，網(wǎng)絡的復雜度在不斷地增加并且網(wǎng)絡的空間結構也在持續(xù)拓展。由此，造成了網(wǎng)絡模型的計算數(shù)據(jù)所需的存儲空間不斷攀升。這極大地浪費了系統(tǒng)的存儲資源。

發(fā)明內容

考慮到上述問題而提出了本發(fā)明。本發(fā)明提供了一種存儲方法、裝置、系統(tǒng)及介質。

根據(jù)本發(fā)明一方面，提供了一種存儲方法，包括：

確定與神經(jīng)網(wǎng)絡中的M個整數(shù)權重分別一一對應的M個n位二進制數(shù)，其中所述M個n位二進制數(shù)表示的取值范圍以0為中心，并以特定間隔在數(shù)軸上對稱分布，n為正整數(shù)；

將所述神經(jīng)網(wǎng)絡的N個第一響應值映射到所述取值范圍內，以獲得與所述N個第一響應值分別一一對應的N個第二響應值；

確定與所述N個第二響應值分別一一對應的N個n位二進制數(shù)，所述N個n位二進制數(shù)表示的取值范圍以0為中心，并以所述特定間隔在數(shù)軸上對稱分布；以及

存儲所述M個n位二進制數(shù)和所述N個n位二進制數(shù)。

示例性地，所述確定與神經(jīng)網(wǎng)絡中的M個整數(shù)權重分別一一對應的M個n位二進制數(shù)包括：

根據(jù)如下公式計算與所述神經(jīng)網(wǎng)絡中的M個整數(shù)權重分別一一對應的M個n位二進制數(shù)：

其中，x表示所述整數(shù)權重，K表示所述特定間隔，(a_na_n-1...a₁)₂表示所述n位二進制數(shù)。

示例性地，所述將所述神經(jīng)網(wǎng)絡的N個第一響應值映射到所述取值范圍內，以獲得與所述N個第一響應值分別一一對應的N個第二響應值，包括：

根據(jù)如下公式將所述神經(jīng)網(wǎng)絡的N個第一響應值映射到所述取值范圍內：

其中，z表示所述第二響應值，K表示所述特定間隔，y表示所述第一響應值，b和t為預設常數(shù)，符號表示向下取整。

示例性地，所述存儲方法還包括：

將所述神經(jīng)網(wǎng)絡的浮點權重進行定點化，以獲得所述整數(shù)權重，所述浮點權重是用浮點數(shù)表示的。

示例性地，所述將所述人工神經(jīng)網(wǎng)絡的浮點權重進行定點化，以獲得所述整數(shù)權重，包括：

在所述神經(jīng)網(wǎng)絡的訓練過程中，將所述神經(jīng)網(wǎng)絡的浮點權重進行定點化，以獲得所述整數(shù)權重。

示例性地，所述將所述神經(jīng)網(wǎng)絡的浮點權重進行定點化，以獲得所述整數(shù)權重，包括：