[發明專利]基于多目標粒子群優化的魯棒性排序學習方法及其應用

有效

• 申請號: 201910318891.8
• 申請日: 2019-04-19
• 公開（公告）號: CN110046713B
• 公開（公告）日: 2023-05-12
• 發明（設計）人: 李金忠;夏潔武;曾勁濤;彭蕾
• 申請（專利權）人: 井岡山大學
• 主分類號: G06N20/00
• 分類號: G06N20/00;G06N3/006;G06F16/9535
• 代理公司: 上海科盛知識產權代理有限公司 31225
• 代理人: 應小波

本發明涉及一種基于多目標粒子群優化的魯棒性排序學習方法及其應用，包括以下步驟：步驟一，基于偏差?方差均衡理論，設計排序模型的有效性偏差函數和魯棒性方差函數，構建排序學習的兩個優化性能指標；步驟二，在排序學習數據集上，基于多目標粒子群優化算法框架，迭代優化排序模型的有效性偏差函數和魯棒性方差函數這兩個目標以訓練排序模型，從而產生排序模型歸檔解集；步驟三，基于多屬性決策理論中的偏好順序結構評估法PROMETHEE?II的思想，從上一步驟所產生的排序模型歸檔解集中選擇一個具有最大“凈流”排序值的Pareto最優的排序模型以此作為訓練出的最終排序模型。與現有技術相比，本發明具有提高整體用戶滿意度，增強用戶體驗等優點。

技術領域

本發明涉及信息檢索與機器學習領域，尤其是涉及一種基于多目標粒子群優化的魯棒性排序學習方法及其應用。

背景技術

排序學習是利用機器學習技術去自動訓練出排序模型以解決排序問題。它是信息檢索與機器學習領域中研究的熱點問題，在信息檢索、搜索引擎、推薦系統和問答系統等方面有著廣泛的應用前景。

由于Web的動態性和用戶信息需求的多樣性，在不同的排序模型下，一些Web搜索的查詢的性能也許會發生較大的變化，并且可能遭受顯著性損失，從而降低用戶的體驗。一個魯棒的檢索系統應確保用戶體驗不因性能表現差的查詢出現而受到損害。因此，為了盡可能地提高整體用戶的體驗，除了傳統的相關性和重要性準則外，如何保證排序模型的魯棒性，即相對于簡單基準，盡管整體上獲得了一個平均增益，但新的排序模型通常會在許多查詢的性能上受到損失，是近年來排序學習研究面臨的一個重要問題。因此，開發魯棒性排序學習方法以訓練魯棒性感知的排序模型從而盡可能地改進所有用戶的整體滿意度是非常有必要。

當前，排序學習研究者們主要是通過設計高級的排序特征和/或通過開發先進的排序學習方法，比較和評估多個排序模型，基于一些有效性度量標準，例如歸一化折扣累積增益(Normalized?Discounted?Cumulative?Gain，NDCG)和期望倒數排序(Expectedreciprocal?rank，ERR)等，選擇一個最佳有效性的排序模型，其目標是聚焦于改進排序模型的平均有效性，這些方法往往忽視了排序模型的魯棒性。魯棒性差的排序模型會導致排序系統的不穩定，即一些查詢的性能表現很好，而另一些查詢的性能表現卻很差，導致所呈現給用戶的排序結果不穩定，難以盡可能地滿足不同用戶的信息需求，從而難以給用戶帶來滿意的體驗。為此，在排序模型的訓練過程中，有必要建立符合實際需求的優化目標，考慮同時優化排序模型的有效性和魯棒性。

發明內容

本發明的目的就是為了克服上述現有技術存在的缺陷而提供一種基于多目標粒子群優化的魯棒性排序學習方法及其應用。

本發明的目的可以通過以下技術方案來實現：

一種基于多目標粒子群優化的魯棒性排序學習方法，包括以下步驟：

步驟一，基于偏差-方差均衡理論，設計排序模型的有效性偏差函數和魯棒性方差函數，構建排序學習的兩個優化性能指標；

步驟二，在排序學習數據集上，基于多目標粒子群優化算法框架，迭代優化排序模型的有效性偏差函數和魯棒性方差函數這兩個目標以訓練排序模型，從而產生排序模型歸檔解集；

步驟三，基于多屬性決策理論中的偏好順序結構評估法PROMETHEE?II的思想，從上一步驟所產生的排序模型歸檔解集中選擇一個具有最大“凈流”排序值的Pareto最優的排序模型以此作為訓練出的最終排序模型。

優選地，所述的設計排序模型的有效性偏差函數和魯棒性方差函數，構建排序學習的兩個優化性能指標具體為：

查詢和查詢集在排序模型下的有效性偏差函數和魯棒性方差函數分別定義如下：

定義1.查詢q_i的有效性偏差函數Bias^R(q_i)定義為：