[發(fā)明專利]時(shí)間序列預(yù)測(cè)模型的超參數(shù)配置方法

在審

• 申請(qǐng)?zhí)枺?/td>: 202110282461.2
• 申請(qǐng)日: 2021-03-16
• 公開(kāi)（公告）號(hào): CN115081633A
• 公開(kāi)（公告）日: 2022-09-20
• 發(fā)明（設(shè)計(jì)）人: 傅大衛(wèi);吳信福;陳佩君
• 申請(qǐng)（專利權(quán)）人: 英業(yè)達(dá)科技有限公司;英業(yè)達(dá)股份有限公司
• 主分類號(hào): G06N20/00
• 分類號(hào): G06N20/00;G06N3/04;G06N3/08
• 代理公司: 上海光華專利事務(wù)所(普通合伙) 31219
• 代理人: 鄔嫡波

本發(fā)明內(nèi)容揭露一種時(shí)間序列預(yù)測(cè)模型的超參數(shù)配置方法，包括：儲(chǔ)存N個(gè)產(chǎn)品的N個(gè)數(shù)據(jù)集；決定預(yù)測(cè)模型；以及執(zhí)行超參數(shù)搜索程序。超參數(shù)搜索程序包括：產(chǎn)生M組超參數(shù)；應(yīng)用每一組超參數(shù)于預(yù)測(cè)模型；依據(jù)二策略分別對(duì)預(yù)測(cè)模型進(jìn)行訓(xùn)練及驗(yàn)證以產(chǎn)生二誤差陣列，其中該二策略分別以二相異的資料維度從N個(gè)數(shù)據(jù)集中選取訓(xùn)練數(shù)據(jù)集及驗(yàn)證數(shù)據(jù)集，依據(jù)二權(quán)重及二誤差陣列進(jìn)行加權(quán)運(yùn)算或排序操作并搜索目標(biāo)超參數(shù)，目標(biāo)超參數(shù)在二誤差陣列中所對(duì)應(yīng)的二誤差值為相對(duì)最小值。

技術(shù)領(lǐng)域

本發(fā)明關(guān)于一種基于機(jī)器學(xué)習(xí)的時(shí)間序列預(yù)測(cè)模型的超參數(shù)配置方法。

背景技術(shù)

人工智能(artificial intelligence，AI)已經(jīng)成為我們?nèi)粘Ｉ钪械囊徊糠帧Ｈ斯ぶ悄軒椭祟惱斫狻⑼评怼⒂?jì)劃、交流和感知。盡管人工智能是一項(xiàng)強(qiáng)大的技術(shù)，開(kāi)發(fā)模型并不是一件容易的事，因?yàn)樵凇搁_(kāi)發(fā)」和「部署」階段之間會(huì)存在現(xiàn)實(shí)差距。無(wú)法縮小該現(xiàn)實(shí)差距的模型將產(chǎn)生錯(cuò)誤的見(jiàn)解，從而層遞誤差并提升不必要的風(fēng)險(xiǎn)。因此，確保模型的效能至關(guān)重要。

測(cè)量或評(píng)估人工智能模型通常關(guān)聯(lián)于高精確度。因此，對(duì)于人工智能建模人員來(lái)說(shuō)，優(yōu)化此目標(biāo)是理所當(dāng)然的。為此，人工智能建模人員執(zhí)行超參數(shù)調(diào)整以獲得最佳精確度。在開(kāi)發(fā)階段，超參數(shù)調(diào)整在訓(xùn)練集和驗(yàn)證集上被執(zhí)行。然而，在部署階段，超參數(shù)集被調(diào)整后的這個(gè)人工智能模型可能在測(cè)試集上表現(xiàn)差勁。也就是說(shuō)，在開(kāi)發(fā)和部署階段之間經(jīng)常存在效能(通常以精確度衡量)差距。

在人工智能的眾多應(yīng)用中，其中一者是以預(yù)測(cè)模型為多個(gè)時(shí)間序列數(shù)據(jù)產(chǎn)生預(yù)測(cè)結(jié)果。時(shí)間序列是將某一現(xiàn)象的數(shù)量變化依時(shí)間的先后順序排列。從時(shí)間序列可推導(dǎo)這一現(xiàn)象的發(fā)展規(guī)律，從而預(yù)測(cè)現(xiàn)象發(fā)展的方向及其數(shù)量。舉例來(lái)說(shuō)，使用預(yù)測(cè)模型預(yù)測(cè)多個(gè)城市的每日氣溫，或是使用預(yù)測(cè)模型預(yù)測(cè)多個(gè)產(chǎn)品的客戶需求量。

為了預(yù)測(cè)多個(gè)時(shí)間序列，可以針對(duì)每個(gè)時(shí)間序列采用單獨(dú)的預(yù)測(cè)模型，該預(yù)測(cè)模型例如是神經(jīng)網(wǎng)絡(luò)模型。然而，在給定大量要預(yù)測(cè)的時(shí)間序列數(shù)據(jù)以及對(duì)大量預(yù)測(cè)模型的存儲(chǔ)要求下，這種方法由于復(fù)雜度高而難以實(shí)現(xiàn)。

如果只采用一個(gè)預(yù)測(cè)模型，那么此預(yù)測(cè)模型將考慮所有時(shí)間序列數(shù)據(jù)。利用這些時(shí)間序列數(shù)據(jù)訓(xùn)練預(yù)測(cè)模型時(shí)，預(yù)測(cè)模型可能過(guò)度擬合(overfitting)訓(xùn)練數(shù)據(jù)。

當(dāng)采用傳統(tǒng)的時(shí)間序列預(yù)測(cè)模型被應(yīng)用在多個(gè)時(shí)間序列時(shí)，該模型在開(kāi)發(fā)階段與部署階段之間的效能差距通常是因?yàn)椋涸撃Ｐ蜔o(wú)法推廣到不同的時(shí)間范圍；以及在一組時(shí)間序列數(shù)據(jù)上訓(xùn)練的預(yù)測(cè)模型不適用在另一組時(shí)間序列。換言之，傳統(tǒng)的預(yù)測(cè)模型不能處理沒(méi)有預(yù)先訓(xùn)練過(guò)的時(shí)間范圍或產(chǎn)品。

發(fā)明內(nèi)容

有鑒于此，本發(fā)明提出一種時(shí)間序列預(yù)測(cè)模型的超參數(shù)配置方法，適用于多個(gè)產(chǎn)品的時(shí)間序列預(yù)測(cè)模型。

依據(jù)本發(fā)明一實(shí)施例的一種時(shí)間序列預(yù)測(cè)模型的超參數(shù)配置方法，包括：儲(chǔ)存裝置儲(chǔ)存分別對(duì)應(yīng)于N個(gè)產(chǎn)品的N個(gè)數(shù)據(jù)集，其中每一數(shù)據(jù)集為時(shí)間序列；決定一預(yù)測(cè)模型；以及處理器執(zhí)行超參數(shù)搜索程序。超參數(shù)搜索程序包括：處理器產(chǎn)生對(duì)應(yīng)預(yù)測(cè)模型的M組超參數(shù)；處理器應(yīng)用每一組超參數(shù)于預(yù)測(cè)模型；處理器依據(jù)第一策略及第二策略分別對(duì)應(yīng)用每一組超參數(shù)的預(yù)測(cè)模型進(jìn)行訓(xùn)練，其中第一策略及第二策略分別以二相異的資料維度從N個(gè)數(shù)據(jù)集中選取一部份作為訓(xùn)練數(shù)據(jù)集；處理器依據(jù)第一策略及第二策略分別對(duì)應(yīng)用每一組超參數(shù)的預(yù)測(cè)模型進(jìn)行驗(yàn)證以產(chǎn)生二誤差陣列，其中第一策略及第二策略分別以該二相異的數(shù)據(jù)維度從N個(gè)數(shù)據(jù)集中選取另一部份作為驗(yàn)證數(shù)據(jù)集，且二誤差陣列的每一者具有M個(gè)誤差值；處理器依據(jù)第一權(quán)重、第二權(quán)重及二誤差陣列進(jìn)行加權(quán)運(yùn)算或排序操作；以及處理器在二誤差陣列中搜索目標(biāo)超參數(shù)，其中目標(biāo)超參數(shù)為M組超參數(shù)中的一者，且目標(biāo)超參數(shù)在二誤差陣列中所對(duì)應(yīng)的二誤差值為二誤差陣列中的相對(duì)最小值；當(dāng)搜索到目標(biāo)超參數(shù)時(shí)，處理器輸出目標(biāo)超參數(shù)；且當(dāng)無(wú)法搜索到目標(biāo)超參數(shù)時(shí)，處理器增加M值并執(zhí)行超參數(shù)搜索程序。

綜上所述，本發(fā)明提出的時(shí)間序列預(yù)測(cè)模型的超參數(shù)配置方法適用于任何基于機(jī)器學(xué)習(xí)的時(shí)間序列預(yù)測(cè)模型。本發(fā)明提出的超參數(shù)調(diào)整方法可找出每個(gè)產(chǎn)品時(shí)域上的銷售模式，并且可找出多個(gè)產(chǎn)品之間的連動(dòng)關(guān)系。