[發(fā)明專利]學(xué)習(xí)率的調(diào)整方法、裝置、設(shè)備及可讀存儲(chǔ)介質(zhì)

在審

• 申請(qǐng)?zhí)枺?/td>: 202010100846.8
• 申請(qǐng)日: 2020-02-17
• 公開(kāi)（公告）號(hào): CN111353867A
• 公開(kāi)（公告）日: 2020-06-30
• 發(fā)明（設(shè)計(jì)）人: 章放;鄒雨晗;楊海軍;徐倩;楊強(qiáng)
• 申請(qǐng)（專利權(quán)）人: 深圳前海微眾銀行股份有限公司
• 主分類號(hào): G06Q40/00
• 分類號(hào): G06Q40/00;G06N20/00;G06N3/04
• 代理公司: 深圳市世紀(jì)恒程知識(shí)產(chǎn)權(quán)代理事務(wù)所 44287
• 代理人: 王韜

本發(fā)明公開(kāi)了一種學(xué)習(xí)率的調(diào)整方法、裝置、設(shè)備及可讀存儲(chǔ)介質(zhì)，涉及金融科技領(lǐng)域，該方法包括步驟：當(dāng)偵測(cè)到調(diào)整待訓(xùn)練模型對(duì)應(yīng)學(xué)習(xí)率的調(diào)整指令后，根據(jù)所述調(diào)整指令獲取待訓(xùn)練模型訓(xùn)練過(guò)程中的訓(xùn)練次數(shù)；若所述訓(xùn)練次數(shù)滿足預(yù)設(shè)訓(xùn)練周期條件，則獲取當(dāng)前訓(xùn)練周期內(nèi)所述待訓(xùn)練模型對(duì)應(yīng)的第一指標(biāo)值，以及獲取上一訓(xùn)練周期所述待訓(xùn)練模型對(duì)應(yīng)的第二指標(biāo)值；若所述第一指標(biāo)值大于或者等于所述第二指標(biāo)值，則調(diào)整所述待訓(xùn)練模型對(duì)應(yīng)的學(xué)習(xí)率。本發(fā)明降低了調(diào)整學(xué)習(xí)率的調(diào)整時(shí)長(zhǎng)，以及降低了調(diào)整學(xué)習(xí)率的難度，且使學(xué)習(xí)率的調(diào)整方法具有可預(yù)測(cè)性，提高了學(xué)習(xí)率調(diào)整方法的可解釋性。

技術(shù)領(lǐng)域

本發(fā)明涉及金融科技(Fintech)的數(shù)據(jù)處理技術(shù)領(lǐng)域，尤其涉及一種學(xué)習(xí)率的調(diào)整方法、裝置、設(shè)備及可讀存儲(chǔ)介質(zhì)。

背景技術(shù)

隨著計(jì)算機(jī)技術(shù)的發(fā)展，越來(lái)越多的技術(shù)應(yīng)用在金融領(lǐng)域，傳統(tǒng)金融業(yè)正在逐步向金融科技(Fintech)轉(zhuǎn)變，數(shù)據(jù)處理技術(shù)也不例外，但由于金融行業(yè)的安全性、實(shí)時(shí)性要求，也對(duì)技術(shù)提出的更高的要求。

現(xiàn)在的學(xué)習(xí)率調(diào)整方案有兩種，一種是手動(dòng)調(diào)整學(xué)習(xí)率，一種是自動(dòng)調(diào)整學(xué)習(xí)率。在現(xiàn)有的手動(dòng)調(diào)整學(xué)習(xí)率的方案里，是通過(guò)預(yù)設(shè)學(xué)習(xí)率變化方案，在訓(xùn)練模型的時(shí)候根據(jù)訓(xùn)練的訓(xùn)練次數(shù)來(lái)觸發(fā)不同的學(xué)習(xí)率。這種方案的問(wèn)題在于需要不斷地進(jìn)行嘗試訓(xùn)練才能發(fā)現(xiàn)應(yīng)該在什么時(shí)候設(shè)置什么樣的學(xué)習(xí)率，而每次嘗試訓(xùn)練都需要花費(fèi)時(shí)間和機(jī)器的資源去進(jìn)行實(shí)驗(yàn)，在進(jìn)行多次這樣的實(shí)驗(yàn)之后才能得到一個(gè)比較好的學(xué)習(xí)率變化方案。在現(xiàn)有的自動(dòng)調(diào)整學(xué)習(xí)率的方案里，是通過(guò)一些非常復(fù)雜的算法，比如AdaGrad算法、RMSProp算法、Adam算法和AdaDelta算法等，對(duì)學(xué)習(xí)率進(jìn)行高頻率復(fù)雜的調(diào)整，但是這種調(diào)整對(duì)于實(shí)驗(yàn)人員而言往往是一個(gè)黑盒子，就像深度神經(jīng)網(wǎng)絡(luò)一樣，不具有明顯的可解釋性，而且實(shí)際的實(shí)驗(yàn)結(jié)果往往是不具有可預(yù)測(cè)性，難以進(jìn)行選擇。

由此可知，目前學(xué)習(xí)率的調(diào)整過(guò)程時(shí)間長(zhǎng)，難度大，且所得結(jié)果的可解釋性差。

發(fā)明內(nèi)容

本發(fā)明的主要目的在于提供一種學(xué)習(xí)率的調(diào)整方法、裝置、設(shè)備及可讀存儲(chǔ)介質(zhì)，旨在解決現(xiàn)有的目前學(xué)習(xí)率的調(diào)整過(guò)程時(shí)間長(zhǎng)，難度大，且所得結(jié)果的可解釋性差的技術(shù)問(wèn)題。

為實(shí)現(xiàn)上述目的，本發(fā)明提供一種學(xué)習(xí)率的調(diào)整方法，所述學(xué)習(xí)率的調(diào)整方法包括步驟：

當(dāng)偵測(cè)到調(diào)整待訓(xùn)練模型對(duì)應(yīng)學(xué)習(xí)率的調(diào)整指令后，根據(jù)所述調(diào)整指令獲取待訓(xùn)練模型訓(xùn)練過(guò)程中的訓(xùn)練次數(shù)；

若所述訓(xùn)練次數(shù)滿足預(yù)設(shè)訓(xùn)練周期條件，則獲取當(dāng)前訓(xùn)練周期內(nèi)所述待訓(xùn)練模型對(duì)應(yīng)的第一指標(biāo)值，以及獲取上一訓(xùn)練周期所述待訓(xùn)練模型對(duì)應(yīng)的第二指標(biāo)值；

若所述第一指標(biāo)值大于或者等于所述第二指標(biāo)值，則調(diào)整所述待訓(xùn)練模型對(duì)應(yīng)的學(xué)習(xí)率。

優(yōu)選地，所述若所述訓(xùn)練次數(shù)滿足預(yù)設(shè)訓(xùn)練周期條件，則獲取當(dāng)前訓(xùn)練周期內(nèi)所述待訓(xùn)練模型對(duì)應(yīng)的第一指標(biāo)值的步驟包括：

若所述訓(xùn)練次數(shù)滿足預(yù)設(shè)訓(xùn)練周期條件，則計(jì)算當(dāng)前訓(xùn)練周期訓(xùn)練所得所述待訓(xùn)練模型對(duì)應(yīng)訓(xùn)練結(jié)果中，錯(cuò)誤結(jié)果的結(jié)果數(shù)量；

若所述結(jié)果數(shù)量大于預(yù)設(shè)數(shù)量，則獲取當(dāng)前訓(xùn)練周期內(nèi)所述待訓(xùn)練模型對(duì)應(yīng)的第一指標(biāo)值。

優(yōu)選地，所述若所述訓(xùn)練次數(shù)滿足預(yù)設(shè)訓(xùn)練周期條件，則計(jì)算當(dāng)前訓(xùn)練周期訓(xùn)練所得所述待訓(xùn)練模型對(duì)應(yīng)訓(xùn)練結(jié)果中，錯(cuò)誤結(jié)果的結(jié)果數(shù)量的步驟之前，還包括：

獲取預(yù)設(shè)的訓(xùn)練數(shù)據(jù)集，將所述訓(xùn)練數(shù)據(jù)集輸入當(dāng)前訓(xùn)練周期訓(xùn)練所得的待訓(xùn)練模型中，得到訓(xùn)練結(jié)果集；

將所述訓(xùn)練結(jié)果集中的各訓(xùn)練結(jié)果與所述訓(xùn)練數(shù)據(jù)集對(duì)應(yīng)的結(jié)果進(jìn)行對(duì)比，以確定所述訓(xùn)練結(jié)果集中的錯(cuò)誤結(jié)果。

優(yōu)選地，所述若所述第一指標(biāo)值大于或者等于所述第二指標(biāo)值，則調(diào)整所述待訓(xùn)練模型對(duì)應(yīng)的學(xué)習(xí)率的步驟之后，還包括：