[發明專利]網絡模型的訓練方法、信息推送方法及相關裝置

有效

• 申請號: 202011105734.8
• 申請日: 2020-10-15
• 公開（公告）號: CN112434213B
• 公開（公告）日: 2023-09-29
• 發明（設計）人: 楊敏;原發杰;劉奪;李成明;姜青山
• 申請（專利權）人: 中國科學院深圳先進技術研究院
• 主分類號: G06F16/9535
• 分類號: G06F16/9535;G06N3/044;G06N3/0464;G06N3/08
• 代理公司: 深圳市威世博知識產權代理事務所(普通合伙) 44280
• 代理人: 黎堅怡

本申請涉及計算機領域，公開了網絡模型的訓練方法、信息推送方法及相關裝置。該訓練方法包括：采用第一訓練數據對網絡模型進行訓練，得到第一輸出信息；對第一訓練數據添加隨機噪聲，得到第二訓練數據，采用第二訓練數據對網絡模型進行訓練，得到第二輸出信息；根據第一輸出信息和第二輸出信息，確定擾動信息；對第一訓練數據或第二訓練數據添加擾動信息，得到第三訓練數據，采用第三訓練數據對網絡模型進行訓練，得到第三輸出信息；根據第三輸出信息與預設輸出信息之間的差異，調整網絡模型的參數。通過上述方式，能夠提升網絡模型的魯棒性和預測的準確性。

技術領域

本申請涉及計算機技術領域，特別是涉及一種網絡模型的訓練方法、信息推送方法及相關裝置。

背景技術

近年來，隨著計算機領域的快速發展，信息的爆炸式增長所產生的海量信息數據如何有效利用成為研究熱點。相關機構預測，全球數據圈將從2018年的33ZB增至2025年的175ZB。要從海量的數據中獲取到需求的信息就需要借助一定的搜索和推薦算法來幫助解決。目前眾多的推薦算法被學術界和工業界研究和使用，并取得了很好的效果。

目前提出的訓練方法解決了傳統網絡模型的一些缺點，但是這些網絡模型在取得高性能的同時，一些問題也隨之到來。例如：在電商場景下，如果惡意用戶成功攻擊推薦系統來達到一些目的，并且使得下一個item的推薦都是這個惡意用戶指定的item，網絡模型的魯棒性問題將會造成嚴重損失。在新聞推薦領域，如果推薦系統遭到惡意攻擊，使得線上的新聞推薦系統給用戶推薦攻擊者所展示的內容，或者和正常用戶不相關的內容，就會嚴重影響推薦的可靠性，造成巨大的損失。

發明內容

本申請主要解決的技術問題是提供網絡模型的訓練方法、信息推送方法及相關裝置，能夠提升網絡模型的魯棒性和預測的準確性。

本申請采用的一種技術方案是提供一種網絡模型的訓練方法，該方法包括：采用第一訓練數據對網絡模型進行訓練，得到第一輸出信息；對第一訓練數據添加隨機噪聲，得到第二訓練數據，采用第二訓練數據對網絡模型進行訓練，得到第二輸出信息；根據第一輸出信息和第二輸出信息，確定擾動信息；對第一訓練數據或第二訓練數據添加擾動信息，得到第三訓練數據，采用第三訓練數據對網絡模型進行訓練，得到第三輸出信息；根據第三輸出信息與預設輸出信息之間的差異，調整網絡模型的參數。

其中，采用第一訓練數據對網絡模型進行訓練，得到第一輸出信息，包括：從訓練數據集中獲取預設數量的目標訓練數據作為第一訓練數據；將預設數量的目標訓練數據進行序列化處理，以形成第一向量矩陣；采用第一向量矩陣對網絡模型進行訓練，得到第一輸出信息；其中，輸出信息為概率矩陣，概率矩陣用于表示網絡模型基于目標訓練數據的預測信息。

其中，對第一訓練數據添加隨機噪聲，得到第二訓練數據，采用第二訓練數據對網絡模型進行訓練，得到第二輸出信息，包括：對第一向量矩陣中的每個元素添加隨機噪聲，得到第二向量矩陣，將第二向量矩陣作為第二訓練數據；采用第二向量矩陣對網絡模型進行訓練，得到第二輸出信息；其中，輸出信息為概率矩陣，概率矩陣用于表示網絡模型基于第二向量矩陣的預測信息。

其中，對第一訓練數據或第二訓練數據添加擾動信息，得到第三訓練數據，采用第三訓練數據對網絡模型進行訓練，得到第三輸出信息，包括：對第一向量矩陣或第二向量矩陣添加擾動信息，得到第三向量矩陣，將第三向量矩陣作為第三訓練數據；采用第三向量矩陣對網絡模型進行訓練，得到第三輸出信息；其中，輸出信息為概率矩陣，概率矩陣用于表示網絡模型基于第三向量矩陣的預測信息。

其中，對第一向量矩陣或第二向量矩陣添加擾動信息，得到第三向量矩陣，將第三向量矩陣作為第三訓練數據，包括：對第一向量矩陣或第二向量矩陣添加擾動信息，得到第三向量矩陣；若第三向量矩陣與第一向量矩陣或第二向量矩陣的相似度滿足約束條件，則確定第三向量矩陣為第三訓練數據。