[發明專利]應用處理器、神經網絡器件及操作神經網絡器件的方法

在審

• 申請號: 201911135614.X
• 申請日: 2019-11-19
• 公開（公告）號: CN111222634A
• 公開（公告）日: 2020-06-02
• 發明（設計）人: 金賢弼;安成祐;李宗協
• 申請（專利權）人: 三星電子株式會社
• 主分類號: G06N3/063
• 分類號: G06N3/063
• 代理公司: 廣州華進聯合專利商標代理有限公司 44224
• 代理人: 郎伊琳

本發明提供應用處理器、神經網絡器件及操作神經網絡器件的方法。所述神經網絡器件包括：直接存儲器存取(DMA)控制器，被配置以從存儲器接收浮點數據；數據轉換器，被配置以將經由所述直接存儲器存取控制器接收到的所述浮點數據轉換成整數類型數據；以及處理器，被配置以使用從所述數據轉換器提供的所述整數類型數據來基于整數運算實行神經網絡運算。

[相關申請的交叉參考]

本專利申請主張在2018年11月23日在韓國知識產權局提出申請的韓國專利申請第10-2018-0146610號的優先權，所述韓國專利申請的公開內容全文并入本申請供參考。

技術領域

本公開涉及一種神經網絡。更具體來說，本公開涉及用于通過神經網絡器件(neural network device)處理浮點數的一種方法及裝置，所述神經網絡器件包括整數運算器。

背景技術

神經網絡是指將構成動物大腦的生物網絡模型化的計算架構。近來，隨著神經網絡技術的發展，正在對在各種類型的電子系統中使用基于神經網絡的神經網絡器件來分析輸入數據及提取有效信息進行積極研究。

神經網絡器件需要對復雜的輸入數據進行大量的運算。神經網絡器件需要一種技術來高效地處理神經網絡運算以實時地分析輸入(例如輸入數據)并從所述輸入中提取信息。具體來說，低功率及高性能系統(例如智能手機)具有有限的資源，且因此需要用于在減少處理復雜的輸入數據所需的運算的量的同時使人工神經網絡的性能最大化的技術。

各別地，使用浮點數作為編碼數的特定方式。浮點數可包括給定基數(base)中給定長度的帶符號的數字串以及對量值進行修改的帶符號的整數指數。使用浮點數采用折衷范圍及精確性的方式來提供底層數(underlying number)的近似值。也就是說，浮點數可支持值的寬泛范圍且可適用于表示實數的近似值。然而，與更熟悉的實數相比，作為表示方式的浮點數可呈現相對復雜度。舉例來說，浮點數據可包括特征映射圖(feature map)、核(kernel)(權重映射圖(weight map))、偏置(bias)等，且處理這種浮點數據的性質對于神經網絡器件來說并非始終是最優的。

發明內容

本公開闡述用于在神經網絡器件中處理神經網絡的浮點數的一種方法及裝置，所述神經網絡器件包括整數運算器。

根據本公開的一方面，一種用于實行神經網絡運算的神經網絡器件包括直接存儲器存取(direct memory access，DMA)控制器、數據轉換器及處理器。所述直接存儲器存取控制器被配置以從存儲器接收浮點數據。所述數據轉換器被配置以將經由所述DMA控制器接收到的所述浮點數據轉換成整數類型數據。所述處理器被配置以使用從所述數據轉換器提供的所述整數類型數據來基于整數運算實行所述神經網絡運算。

根據本公開的另一方面，一種操作神經網絡器件的方法包括：從存儲器接收浮點輸入數據以及將所述浮點輸入數據轉換成整數類型輸入數據。所述方法還包括使用所述整數類型輸入數據來基于整數運算實行神經網絡運算。

根據本公開的另一方面，一種應用處理器包括存儲器及神經網絡器件。所述存儲器被配置以存儲運算參數及特征值。所述運算參數及所述特征值是浮點類型值。所述神經網絡器件被配置以從所述存儲器接收所述運算參數及所述特征值，將所述運算參數及所述特征值轉換成整數類型值，以及基于被轉換成所述整數類型值的所述運算參數及所述特征值來實行神經網絡運算。

附圖說明

通過結合附圖閱讀以下詳細說明，將更清楚地理解本公開的實施例，在附圖中：

圖1是示出根據示例性實施例的神經網絡系統的方塊圖。

圖2是示出神經網絡結構的實例的圖。

圖3A是示出浮點數的實例的圖。

圖3B是示出整數的實例的圖。