[發明專利]基于改進Ranger的深度學習方法

在審

• 申請號: 202011506464.1
• 申請日: 2020-12-18
• 公開（公告）號: CN112488772A
• 公開（公告）日: 2021-03-12
• 發明（設計）人: 孫永強
• 申請（專利權）人: 四川長虹電器股份有限公司
• 主分類號: G06Q30/02
• 分類號: G06Q30/02;G06F21/62;G06N20/00
• 代理公司: 成都虹橋專利事務所(普通合伙) 51124
• 代理人: 吳中偉

1.基于改進Ranger的深度學習方法，其特征在于，包括以下步驟：

S01、獲取數據源；

S02、將數據進行預處理；

S03、將數據進行Radam算法優化，計算梯度，利用指數加權平均方法優化方差，獲得方差；

S04、用反向反饋驗證法改進K參數；利用后向擬合的方法改進學習率；將數據進行Lookahead算法優化；

S05、輸出預測結果。

2.根據權利要求1所述的基于改進Ranger的深度學習方法，其特征在于，步驟S01中，所述的數據源是銷售數據。

3.根據權利要求1或2所述的基于改進Ranger的深度學習方法，其特征在于，預處理包括脫敏處理、缺失值填充處理、字段類型轉換處理、歸一化處理和標準化處理中的一種或多種，所述缺失值填充采取就近原則進行填充；所述字段類型轉換是將部分字段字符串類型轉為浮點類型。

4.根據權利要求1或2所述的基于改進Ranger深度學習方法，其特征在于，步驟S03中，優化方差的公式是其中S表示方差，β₂是指數加權平均的超參，t表示步數，g_i表示第i歩的梯度。

5.根據權利要求1或2所述的基于改進Ranger深度學習方法，其特征在于，步驟S04中，所述反向反饋驗證法包括以下步驟：

S601、設置學習率a；

S602、針對數據按照S601設置的學習率進行迭代運算，獲得權重，并備份；

S603、從現有權重出發，運行LookAhead算法得到k參數，并根據φ_t+1＝a+(1-a)φ_t+k得到新權重；

S604、更新模型權重；

S605、查看模型收斂性；

S606、獲得模型達到最佳收斂時的k。

6.根據權利要求5所述的基于改進Ranger深度學習方法，其特征在于，步驟S601中，設置初始學習率為一個或多個，步驟S602中，迭代處理是任意單次或多次。

7.根據權利要求5所述的基于改進Ranger深度學習方法，其特征在于，步驟S04中，后向擬合的方法，包括以下步驟：

S901、針對數據進行迭代處理；

S902、設置初始學習率a＝0.5和k，k的值是反向反饋驗證法計算出的k值；

S903、運行LookAhead算法，查看模型損失函數以及模型擬合情況，擬合優度R²∈[0,1]，其中SSE表示誤差平方和，SST表示回歸平方和；

S904、改變步驟S902中的初始學習率，找到模型最佳擬合情況，即R²＝1或則無限接近1；

S905、輸出模型最佳擬合情況學習率設置值。

8.根據權利要求7所述的基于改進Ranger深度學習方法，其特征在于，步驟S901中，迭代處理是任意單次或多次。

9.根據權利要求1或2所述的基于改進Ranger深度學習方法，其特征在于，步驟S05中，輸出預測結果是一個數據或多個數據。