[發(fā)明專利]一種基于單純形優(yōu)化域的貝葉斯快速自動化超參尋優(yōu)方法

在審

• 申請?zhí)枺?/td>: 202210809368.7
• 申請日: 2022-07-11
• 公開（公告）號: CN115169581A
• 公開（公告）日: 2022-10-11
• 發(fā)明（設(shè)計）人: 宋廣東;朱圣恩;胡賓鑫;朱峰;張華;王紀(jì)強(qiáng)
• 申請（專利權(quán)）人: 山東省科學(xué)院激光研究所
• 主分類號: G06N20/00
• 分類號: G06N20/00;G06N7/00;G06K9/62
• 代理公司: 濟(jì)南泉城專利商標(biāo)事務(wù)所 37218
• 代理人: 張貴賓

1.一種基于單純形優(yōu)化域的貝葉斯快速自動化超參尋優(yōu)方法，其特征在于：包括以下步驟，

步驟S1：根據(jù)數(shù)據(jù)集確定機(jī)器學(xué)習(xí)模型和超參數(shù)，并劃分?jǐn)?shù)據(jù)集為訓(xùn)練集、驗證集、測試集；

步驟S2：根據(jù)機(jī)器學(xué)習(xí)模型確定超參數(shù)空間，構(gòu)造單純形優(yōu)化域；

步驟S3：創(chuàng)建單純形工作列表；

步驟S4：構(gòu)造基于單純形優(yōu)化域的貝葉斯優(yōu)化器，具體包括以下步驟，

步驟S41：基于反距離加權(quán)以單純形的方式構(gòu)建局部插值并作為超參數(shù)空間中的采樣點，依據(jù)反距離加權(quán)將單純形優(yōu)化域劃分成彼此獨立的局部插值來構(gòu)造代理模型；

步驟S42：更新步驟S3創(chuàng)建的單純形工作列表，從更新的單純形工作列表中獲取具有最高采集函數(shù)值的局部插值；

步驟S43：以步驟S42中獲取的具有最高采集函數(shù)值的局部插值來評估目標(biāo)函數(shù)，如滿足迭代次數(shù)，則得到最優(yōu)超參數(shù)組合；如不滿足迭代次數(shù)，則重新探索，獲取新的探索信息，將父插值拆分成更小、更準(zhǔn)確的子插值，將局部子插值添加至單純形工作列表，更新已迭代次數(shù)，重復(fù)上述步驟S41-S43，直至滿足迭代次數(shù)，得到最優(yōu)超參數(shù)組合。

2.根據(jù)權(quán)利要求1所述的基于單純形優(yōu)化域的貝葉斯快速自動化超參尋優(yōu)方法，其特征在于：所述步驟S3中，通過python中heapq堆棧列模塊的heappop函數(shù)來創(chuàng)建單純形工作列表。

3.根據(jù)權(quán)利要求1所述的基于單純形優(yōu)化域的貝葉斯快速自動化超參尋優(yōu)方法，其特征在于：所述步驟S41中，選擇單純形內(nèi)部劃分的方式劃分步驟S2構(gòu)造的單純形優(yōu)化域。

4.根據(jù)權(quán)利要求1所述的基于單純形優(yōu)化域的貝葉斯快速自動化超參尋優(yōu)方法，其特征在于：所述步驟S41中，通過采集函數(shù)進(jìn)行校準(zhǔn)采樣點。

5.根據(jù)權(quán)利要求1所述的基于單純形優(yōu)化域的貝葉斯快速自動化超參尋優(yōu)方法，其特征在于：所述步驟S43中，目標(biāo)函數(shù)為機(jī)器學(xué)習(xí)模型的評估函數(shù)。