[發明專利]神經網絡預測方法、裝置、電子設備和自動駕駛系統

有效

• 申請號: 201911023009.3
• 申請日: 2019-10-25
• 公開（公告）號: CN110782029B
• 公開（公告）日: 2022-11-22
• 發明（設計）人: 徐立華
• 申請（專利權）人: 阿波羅智能技術（北京）有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063
• 代理公司: 北京市鑄成律師事務所 11313
• 代理人: 包莉莉;武晨燕

本申請公開了神經網絡的預測方法、裝置、電子設備及存儲介質，涉及人工智能領域，尤其是自動駕駛(包括自主泊車)領域。具體實現方案為：根據神經網絡的第一輸入張量和第二輸入張量，確定對應的第一初始輸入量化參數和第二初始輸入量化參數；量化處理第一初始輸入量化參數和第二初始輸入量化參數，分別得到第一目標輸入量化參數和第二目標輸入量化參數；確定神經網絡的輸出張量對應的初始輸出量化參數；根據量化處理的量化尺度以及初始輸出量化參數，確定目標輸出量化參數；根據第一輸入張量、第一目標輸入量化參數、第二輸入張量、第二目標輸入量化參數和目標輸出量化參數，預測輸出張量的量化值。本申請可以減少資源使用量，降低功耗。

技術領域

本申請涉及一種信息技術領域，尤其涉及人工智能領域，尤其是自動駕駛(包括自主泊車)領域。

背景技術

目前深度學習領域常用的卷積神經網絡中，為了提高運算效率，在神經網絡的預測階段，多采用定點量化的方式。例如：采用輸入量化參數對輸入數據進行量化；在預測過程中用量化后的輸入數據得到量化的輸出數據；對采用輸出量化參數對量化的輸出數據進行反量化，得到輸出數據。由于輸入量化參數和輸出量化參數均為浮點數或高精度定點數，因此對資源的使用量較大，功耗也較大。

在人工智能領域，尤其是自動駕駛領域，也存在同樣的問題。例如，在自主泊車領域的應用場景中，傳統的神經網絡的計算基于浮點數或高精度定點數的量化參數，造成大量的資源浪費。

發明內容

本申請實施例提供一種神經網絡預測方法、裝置、電子設備和自動駕駛系統，以解決相關技術存在的問題，技術方案如下：

第一方面，本申請實施例提供了一種神經網絡預測方法，包括：根據神經網絡的第一輸入張量和第二輸入張量，確定對應的第一初始輸入量化參數和第二初始輸入量化參數；量化處理第一初始輸入量化參數和第二初始輸入量化參數，分別得到第一目標輸入量化參數和第二目標輸入量化參數；確定神經網絡的輸出張量對應的初始輸出量化參數；根據量化處理的量化尺度以及初始輸出量化參數，確定目標輸出量化參數；根據第一輸入張量、第一目標輸入量化參數、第二輸入張量、第二目標輸入量化參數和目標輸出量化參數，預測輸出張量的量化值。

上述技術方案對輸入張量和輸出張量對應的量化參數進行量化處理，并利用量化后的量化參數對輸入張量進行量化，由于量化后的量化參數的比特位(bit)較少，因此可以減少資源使用量，降低功耗。

在一種實施方式中，根據量化處理的量化尺度以及初始輸出量化參數，確定目標輸出量化參數，包括：融合量化處理的量化尺度以及述初始輸出量化參數，確定目標輸出量化參數；其中，量化處理的量化尺度包括第一目標輸入量化參數與第一初始輸入量化參數的變化倍數或第二目標輸入量化參數與第二初始輸入量化參數的變化倍數。

上述技術方案通過將量化參數的變化倍數與量化前的輸出量化參數進行融合，從而使得在線性預算過程中，融合后的輸出量化參數能夠保持高精度，以最大限度保持運算精度。

在一種實施方式中，量化處理第一初始輸入量化參數和第二初始輸入量化參數，分別得到第一目標輸入量化參數和第二目標輸入量化參數，包括：

量化處理第一初始輸入量化參數和第二初始輸入量化參數，并使第一初始輸入量化參數、第一目標輸入量化參數、第二初始輸入量化參數和第二目標輸入量化參數，滿足以下關系：

new_scale1/new_scale2﹣scale1/scale2＝min(x/y-scale1/scale2)，

其中，x＝1,2,3,…,2ⁿ-1，y＝1,2,3,...,2ⁿ-1，n表示預設的量化比特數，new_scale1表示第一目標輸入量化參數，scale1表示第一初始輸入量化參數，new_scale2表示第二目標輸入量化參數，scale2表示第二初始輸入量化參數。