[發明專利]基于雙重協作生成式對抗網絡的排序學習方法

有效

• 申請號: 202010594875.4
• 申請日: 2020-06-28
• 公開（公告）號: CN111783980B
• 公開（公告）日: 2023-04-07
• 發明（設計）人: 林原;謝張;應承軒;牟方舟;葉子雄;許侃;林鴻飛
• 申請（專利權）人: 大連理工大學
• 主分類號: G06N3/094
• 分類號: G06N3/094;G06N3/045;G06N3/0475;G06N3/048;G06N3/047;G06F16/33;G06F16/38
• 代理公司: 大連智高專利事務所(特殊普通合伙) 21235
• 代理人: 劉斌

1.一種基于雙重協作生成式對抗網絡的排序學習方法，其特征在于，包括如下步驟：

S1、構建排序學習所需數據集；

S2、創建導師網絡Tutor和生成器網絡Generator；

S3、創建判別器網絡Discriminator；

S4、數據細節及參數設置；

S5、T-G網絡模型迭代訓練；

S6、G-D網絡模型迭代訓練；

S7、多指標有效性測試結果返回；

所述的S1、構建排序學習所需數據集：創建一個包含已判斷的查詢文檔，也包含未識別的查詢文檔對的數據集，數據集格式在每一階段都有三個學習子集：訓練集、驗證集和測試集，使用交叉驗證的方法，將數據分成若干份，做若干次訓練再取結果的平均值；數據集的格式滿足如下要求：每行是一個查詢文檔對，第一列是該對的相關標簽，第二列是查詢IDqid，末尾列是關于該對的注釋，中間列為特征列；

所述的S4、數據細節及參數設置：優化目標如下式：

其中d、q_n、r分別指的是文檔、第n個查詢和打分，N指的是查詢的個數，G(d|q_n)指的是q_n檢索下，生成器Generator對于當前d的打分；D(d|q_n)指的是q_n檢索下，判別器Discriminator對于當前d的打分；

是服從數據集基礎相關性分布p_true(d|q_n,r)的計算值期望，導師網絡Tutor為生成器網絡Generator生成樣本的概率為p_λ(d|q_n,r)；

是生成樣本概率p_λ(d|q_n,r)的計算值期望，生成器網絡Generator為判別器網絡Discriminator生成樣本的概率為p_θ(d|q_n,r)；

是生成樣本概率p_θ(d|q_n,r)的計算值期望；

對導師網絡Tutor、生成器網絡Generator、判別器網絡Discriminator進行參數設置，導師網絡Tutor、生成器網絡Generator、判別器網絡Discriminator簡稱為T、G和D，其各自中的參數群分別為λ，θ和φ，初始設置為隨機初始化，并通過所述步驟S5與步驟S6對參數群進行更新，網絡參數包括學習率learningrate，梯度算法的動量項momentumterm，批處理參數batchsize，設置T對StochasticGradientDescentSGD的學習率為1e-6，設置G和D對Adam的學習率為1e-5，動量項β1＝0.9，β2＝0.999，并且無權重衰減，批處理參數設置為32。

2.如權利要求1所述的基于雙重協作生成式對抗網絡的排序學習方法，其特征在于，

S2、創建導師網絡Tutor和生成器網絡Generator：初始化設置導師網絡Tutor和生成器網絡Generator，創建導師網絡Tutor和生成器網絡Generator，網絡架構如下：根據輸入的單個查詢文檔特征或者查詢文檔集分別預處理為特征向量或者特征矩陣，然后將其導入兩層Linear網絡，第一個線性層由非線性函數Tanh激活，第二層由非線性函數Sigmoid或Softmax激活，對于給定的單個查詢文檔，Sigmoid輸出為得分，對于給定的查詢文檔集，Softmax輸出為概率分布。

3.如權利要求1所述的基于雙重協作生成式對抗網絡的排序學習方法，其特征在于，

S3、創建判別器網絡Discriminator：初始化設置判別器網絡Discriminator，創建判別器網絡Discriminator，網絡架構如下：根據輸入的單個查詢文檔特征預處理為特征向量，然后將其導入兩層Linear網絡，第一個線性層由非線性函數Tanh激活，第二層由非線性函數Sigmoid激活；對于給定的單個查詢文檔，Sigmoid輸出為得分。