[發明專利]一種針對無組織惡意攻擊的攻擊檢測方法

有效

• 申請號: 201710811240.3
• 申請日: 2017-09-11
• 公開（公告）號: CN107689960B
• 公開（公告）日: 2021-01-01
• 發明（設計）人: 周志華;龐明;高尉;陶敏
• 申請（專利權）人: 南京大學
• 主分類號: H04L29/06
• 分類號: H04L29/06
• 代理公司: 南京蘇高專利商標事務所(普通合伙) 32204
• 代理人: 李玉平

本發明公開了一種可以對推薦系統中無組織的惡意攻擊進行檢測，從而更好的保證推薦系統的質量的學習算法。本發明首次提出并解決了無組織的小規模攻擊場景下的攻擊檢測任務，將其形式化為一個矩陣補全的學習問題，利用我們提出的矩陣補全算法得到評分矩陣M對應的真實評分矩陣X，系統噪聲矩陣Z，以及惡意攻擊偏差矩陣Y。根據惡意攻擊偏差矩陣Y的信息檢測出用戶中的惡意攻擊者。

技術領域

本發明涉及機器學習、應用技術，特別涉及協同過濾、推薦系統、攻擊檢測，是一種可以對推薦系統中無組織的惡意攻擊進行檢測，從而更好的保證推薦系統的質量的學習方法。

背景技術

推薦系統在我們的生活中被廣泛應用，尤其在人們的線上生活越來越豐富的今天，推薦系統對我們的生活起到越來越重要的影響。例如，越來越多的人在淘寶、亞馬遜等網購零售平臺購買物品，在優酷、愛奇藝等視頻網站觀看視頻。面對用戶數量和物品數量的不斷增加，如何給每個用戶推薦適合他的物品是一個巨大的挑戰。針對這樣的挑戰，很多協同過濾的推薦方法被提出。

協同過濾的基本假設是在原來表現出類似的興趣愛好的用戶，在以后也應該有類似的興趣愛好。協同過濾有兩種主要的類別，即基于存儲的協同過濾方法和基于模型的協同過濾方法。基于存儲的協同過濾方法直接利用用戶給物品的評分信息來預測用戶感興趣的物品。這類方法又分為兩大類，即基于用戶的協同過濾方法和基于物品的協同過濾方法。其中基于用戶的協同過濾方法會首先找到一個用戶的相似用戶，再將相似用戶喜歡的物品推薦給該用戶；基于物品的協同過濾方法會把一個用戶喜歡的物品的相似物品推薦給該用戶。基于模型的協同過濾方法首先利用用戶給物品的評分信息訓練得到一個預測模型，再利用該預測模型來生成對每個用戶的推薦。

上述兩大類協同過濾的方法一般都假設用戶給物品的評分如實地反映了用戶的喜好。但在我們實際生活中，物品擁有者會通過偽造虛假用戶給予虛假評分的方式，來操控推薦系統，從而增加自己的利益。例如，攻擊者可以偽造虛假用戶，在評分行為上和正常用戶相似，給自己的物品很高的分數，或者給自己競爭對手的物品很低的分數。現有的研究工作表明基于協同過濾的推薦方法很容易受到惡意攻擊的影響。

針對這種問題，很多惡意攻擊檢測的方法被提出。現有的惡意攻擊檢測的方法主要包含統計的方法、聚類的方法和分類的方法。統計的方法通過檢測可疑的評分來查找惡意攻擊者。聚類的方法根據用戶的評分信息將用戶聚成若干表現相近的簇，其中最小的簇中的用戶被視為惡意攻擊者。分類的方法首先根據每個用戶給物品的評分信息提取出該用戶的特征，再根據用戶的特征和標記(即是否是惡意攻擊者)訓練得到一個檢測惡意攻擊者的分類模型。

現有惡意攻擊檢測的應用場景均是針對有組織的大規模攻擊，而非無組織的小規模的攻擊。有組織的大規模攻擊如，一個物品擁有者根據同一種策略偽造數百個用戶，其中每個偽造用戶要仿照正常用戶評價多種物品，并給自己的物品很高的分數。然而目前推薦系統通過多種機制來提高攻擊的代價，從而減少惡意攻擊的發生，如，驗證碼的廣泛使用，越來越多的網上平臺需要短信驗證或郵箱驗證來完成注冊，用戶只有購買了一件物品才能夠給予評價的機制等等。在這種背景下，高昂的成本使得發動有組織的大規模攻擊難以實施。但無組織的小規模攻擊依然廣泛存在，如，網購零售平臺上具有競爭關系的商家之間可能會互相攻擊，如偽造若干個用戶給自家物品打高分，給競爭對手的物品打低分，而不同商家采用的攻擊策略也是不同的。此時，現有攻擊檢測方法無法通過檢測同種攻擊策略的方式有效地檢測出惡意攻擊者，這使得攻擊評分仍然大量存在于推薦系統中，致使推薦方法的效果變差。因此，推薦系統需要一種可對無組織惡意攻擊進行檢測的學習算法。

發明內容