[發明專利]一種對模型進行線性組合的集成學習方法在審
| 申請號： | 201711461471.2 | 申請日： | 2017-12-28 |
| 公開（公告）號： | CN108197713A | 公開（公告）日： | 2018-06-22 |
| 發明（設計）人： | 劉思聰;潘嶸 | 申請（專利權）人： | 中山大學 |
| 主分類號： | G06N99/00 | 分類號： | G06N99/00 |
| 代理公司： | 廣州粵高專利商標代理有限公司 44102 | 代理人： | 林麗明 |
| 地址： | 510275 廣東*** | 國省代碼： | 廣東;44 |
| 權利要求書： | 查看更多 | 說明書： | 查看更多 |
| 摘要： | |||
| 搜索關鍵詞： | 表示數據 集成模型 集成學習 權重向量 線性組合 候選模型 數據集中 損失函數 梯度更新 預測結果 初始化 歸一化 數據集 后向 收斂 標簽 保存 重復 | ||
【權利要求書】：
1.一種對模型進行線性組合的集成學習方法，其特征在于：包括有以下步驟：
S1.獲取所有候選模型對當前數據集的預測結果并保存下來；x表示數據集；
S2.初始化權重向量
S3.對進行歸一化：
S4.計算集成模型
S5.從數據集中選取若干個數據(xi,yi)，然后分別計算各個H(xi)，其中yi表示數據xi的標簽；
S6.計算各個H(xi)的損失函數L(H(xi),yi)的均值，然后根據計算的均值對權重向量進行后向梯度更新；
S7.重復步驟S5～S6直至集成模型收斂。
2.根據權利要求1所述的對模型進行線性組合的集成學習方法，其特征在于：所述步驟S5首先對每個權重的梯度進行求導：
其中L(H(x),y)表示各個H(xi)的損失函數L(H(xi),yi)的均值；
求取得到梯度后，利用梯度下降方法對權重進行后向梯度更新。
3.根據權利要求1所述的對模型進行線性組合的集成學習方法，其特征在于：所述利用到的梯度下降方法為隨機梯度下降方法、迷你批量梯度下降方法、自適應矩估計Adam方法中之一。
下載完整專利技術內容需要扣除積分，VIP會員可以免費下載。
該專利技術資料僅供研究查看技術是否侵權等信息，商用須獲得專利權人授權。該專利全部權利屬于中山大學，未經中山大學許可，擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作，請聯系【客服】
本文鏈接：http://www.szxzyx.cn/pat/books/201711461471.2/1.html，轉載請聲明來源鉆瓜專利網。
