[發明專利]安全評估方法、裝置、計算機系統和介質

有效

• 申請號: 202010735301.4
• 申請日: 2020-07-27
• 公開（公告）號: CN111866004B
• 公開（公告）日: 2022-09-27
• 發明（設計）人: 周京;程佩哲;金馳;張誠
• 申請（專利權）人: 中國工商銀行股份有限公司
• 主分類號: H04L9/40
• 分類號: H04L9/40;G06F16/35
• 代理公司: 中科專利商標代理有限責任公司 11021
• 代理人: 楊靜

本公開提供了一種安全評估方法，涉及信息安全領域，該方法包括：構造惡意文本樣本；將惡意文本樣本發送至待測服務器；基于待測服務器針對所述惡意文本樣本的響應結果，確定惡意文本樣本針對待測服務器的攻擊狀態；以及，基于上述攻擊狀態，確定待測服務器針對惡意文本的安全防護等級。本公開還提供了一種安全評估裝置、計算機系統和介質。

技術領域

本公開涉及信息安全領域，更具體地，涉及一種安全評估方法、裝置、計算機系統和介質。

背景技術

隨著互聯網和智能設備的飛速發展，以機器學習、深度學習為基礎的自然語言處理技術已廣泛應用于文本分類、語言建模、機器翻譯、問答系統等多個業務場景中，大大提高了信息處理的效率。與此同時，針對這些應用場景的惡意文本攻擊也逐漸增加，攻擊者在網絡文本交互內容中摻雜大量辱罵文本、各種垃圾廣告等，用于吸引大眾注意、騙取用戶點擊進而實施釣魚或詐騙，對互聯網內容安全與生態健康造成了較大影響。

各網站及平臺逐步將文本內容安全檢測納入安全管理工作。但由于各方采取的防護方法各不相同，防護等級也參差不齊，目前暫無針對此類惡意文本攻擊防護能力的系統評估方法。

發明內容

本公開的一個方面提供了一種安全評估方法，包括：構造惡意文本樣本；將惡意文本樣本發送至待測服務器；基于待測服務器針對所述惡意文本樣本的響應結果，確定惡意文本樣本針對待測服務器的攻擊狀態；以及，基于上述攻擊狀態，確定待測服務器針對惡意文本的安全防護等級。

可選地，上述構造惡意文本樣本包括：構造第1個惡意文本樣本集合至第M個惡意文本樣本集合，第1個惡意文本樣本集合至第M個惡意文本樣本集合的文本復雜度依次遞增，M為大于1的整數。上述將惡意文本樣本發送至待測服務器包括：將第i個惡意文本樣本集合中的每個惡意文本樣本發送至待測服務器；以及，在確定第i個惡意文本樣本集合針對待測服務器的攻擊狀態為失敗時，將第i+1個惡意文本樣本集合中的每個惡意文本樣本發送至待測服務器。其中，i為大于等于1且小于M的整數。

可選地，上述基于待測服務器針對惡意文本樣本的響應結果，確定惡意文本樣本針對待測服務器的攻擊狀態包括：針對第i個惡意文本樣本集合中的第j個惡意文本樣本，計算待測服務器針對第j個惡意文本樣本的第一響應結果與待測服務器針對一個正常文本的第二響應結果之間的第一相似度，并在第一相似度大于等于第一閾值時，確定第j個惡意文本樣本攻擊成功，j為大于等于1的整數；計算第i個惡意文本樣本集合中攻擊成功的惡意文本樣本的占比；當所述占比大于第二閾值時，確定第i個惡意文本樣本集合針對待測服務器的攻擊狀態為成功；以及，當所述占比小于等于第二閾值時，確定第i個惡意文本樣本集合針對待測服務器的攻擊狀態為失敗。

可選地，上述方法還包括：在上述構造第1個惡意文本樣本集合至第M個惡意文本樣本集合之前，獲取原始文本集合；利用預先訓練的分類器對原始文本集合進行分類，以確定惡意文本集合和正常文本集合；基于惡意文本集合，建立惡意文本庫，惡意文本庫包括多個惡意文本；以及，基于正常文本集合，建立正常文本庫和正常文本字典庫，正常文本庫包括多個正常文本，正常文本字典庫包括多個漢字。

可選地，上述建立正常文本字典庫包括：將多個正常文本中的漢字全量提取后，得到多個漢字，并由該多個漢字構成正常文本字典庫。

可選地，上述方法還包括：在上述利用預先訓練的分類器對原始文本集合進行分類之前，對所述原始文本集合進行預處理；所述對所述原始文本集合進行預處理包括：針對所述原始文本集合中的每個原始文本，對所述原始文本進行分詞處理以得到分詞處理文本，對所述分詞處理結果進行數據清洗操作以得到清洗后文本，并對所述清洗后文本進行特征提取以得到所述原始文本的特征向量。上述利用預先訓練的分類器對原始文本集合進行分類包括：利用預先訓練的分類器對原始文本集合中的每個原始文本的特征向量進行分類，以確定每個原始文本的類別，所述類別包括：正常文本類別或惡意文本類別。