[發明專利]信息處理方法和裝置

在審

• 申請號: 201810084096.2
• 申請日: 2018-01-29
• 公開（公告）號: CN108256632A
• 公開（公告）日: 2018-07-06
• 發明（設計）人: 姜志超
• 申請（專利權）人: 百度在線網絡技術（北京）有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04
• 代理公司: 北京英賽嘉華知識產權代理有限責任公司 11204
• 代理人: 王達佐;馬曉亞

1.一種信息處理方法，包括：

獲取目標卷積神經網絡的目標卷積層的初始輸入信息；

對所述初始輸入信息進行量化取整，得到整數輸入值；

將所述整數輸入值輸入所述目標卷積層，并與所述目標卷積層的權重進行卷積運算，生成輸出信息；

其中，所述目標卷積層的權重為整數。

2.根據權利要求1所述的方法，其中，所述目標卷積神經網絡通過以下訓練步驟得到：

獲取卷積神經網絡的目標卷積層的初始輸入值和初始權重；

根據預置的量化比例，確定對輸入值和權重的量化方式是否為多階段量化；

響應于確定對輸入值和權重的量化方式是多階段量化，根據所述初始輸入值和所述初始權重，分別生成第一輸入值集合和第一權重集合；從所述預置的量化比例中，獲取當前階段的量化比例；根據當前階段的量化比例，對所述第一輸入值集合中的各第一輸入值和所述第一權重集合中的各第一權重分別進行量化取整，生成第二輸入值集合和第二權重集合，其中，所述第二權重集合中包括量化取整后的第一權重；執行以下確定步驟：將所述第二權重集合作為所述目標卷積層的權重，并確定當前階段的總量化比例是否達到預設比例值；響應于確定當前階段的總量化比例達到預設比例值，生成目標卷積神經網絡。

3.根據權利要求2所述的方法，其中，所述目標卷積神經網絡的訓練步驟還包括：

響應于確定當前階段的總量化比例未達到預設比例值，根據損失函數對當前階段的卷積神經網絡進行訓練，以調整所述第二權重集合中未量化取整的第一權重，直至損失函數的值趨于目標值；從所述預置的量化比例中，獲取下一階段的量化比例作為當前階段的量化比例；根據當前階段的量化比例，對所述第二輸入值集合中未量化取整的第一輸入值和所述第二權重集合中未量化取整的第一權重分別進行量化取整，并繼續執行所述確定步驟。

4.根據權利要求2所述的方法，其中，所述根據當前階段的量化比例，對所述第一輸入值集合中的各第一輸入值和所述第一權重集合中的各第一權重分別進行量化取整，包括：

根據當前階段的量化比例，在所述第一輸入值集合和所述第一權重集合中分別選取相應數量的第一輸入值和第一權重進行量化取整，其中，所述選取包括按照數值由大到小，從數值大的一端選取，或者按照量化誤差由小到大，從誤差小的一端選取。

5.根據權利要求2所述的方法，其中，所述目標卷積神經網絡的訓練步驟還包括：

響應于確定對輸入值和權重的量化方式不是多階段量化，根據量化編碼的位數，將所述初始輸入值的范圍和所述初始權重的范圍分別劃分為預設數目個子區間，其中，所述預設數目與所述量化編碼的位數正相關；根據位于預設數目個子區間中的各初始輸入值和各初始權重，分別生成第三輸入值集合和第三權重集合；對所述第三輸入值集合中的各第三輸入值和第三權重集合中的各第三權重分別進行量化取整，生成第四輸入值集合和第四權重集合；將所述第四輸入值集合作為輸入，將所述第四權重集合作為所述目標卷積層的權重，進行卷積運算；利用反向傳播算法對所述初始權重進行修正，直至卷積神經網絡滿足預設條件，生成目標卷積神經網絡。

6.根據權利要求5所述的方法，其中，所述根據量化編碼的位數，將所述初始輸入值的范圍和所述初始權重的范圍分別劃分為預設數目個子區間；根據位于預設數目個子區間中的各初始輸入值和各初始權重，分別生成第三輸入值集合和第三權重集合，包括：

將所述初始輸入值的范圍和所述初始權重的范圍均放縮至預設范圍內，其中，所述預設范圍的邊界值為整數；

將預設范圍均勻劃分為預設數目個子區間；

將預設范圍內的各輸入值作為第三輸入值，生成第三輸入值集合，并將預設范圍內的各權重作為第三權重，生成第三權重集合。