[發明專利]安全類別標簽檢測方法、裝置、計算機設備及存儲介質

在審

• 申請號: 202110762951.2
• 申請日: 2021-07-06
• 公開（公告）號: CN113449109A
• 公開（公告）日: 2021-09-28
• 發明（設計）人: 吳智東
• 申請（專利權）人: 廣州華多網絡科技有限公司
• 主分類號: G06F16/35
• 分類號: G06F16/35;G06F40/289;G06F40/30;G06F40/216
• 代理公司: 廣州利能知識產權代理事務所(普通合伙) 44673
• 代理人: 王增鑫

本申請公開一種安全類別標簽檢測方法、裝置、計算機設備及存儲介質，包括：獲取待檢測安全類別標簽的文本信息；調用序列標注模型為文本信息標注文本信息中的關鍵詞及關鍵詞所屬的安全類別標簽，根據各安全類別標簽所標注的關鍵詞計算該文本信息分別屬于各安全類別標簽的分詞評估分值；調用文本分類模型為文本信息進行分類評估，獲得該文本信息分別命中所述各個安全類別標簽的全文評估分值；將各個安全類別標簽相對應的兩種分值進行線性融合，獲得文本信息分別屬于各個安全類別標簽的綜合評估分值，確定綜合評估分值最大者為文本信息的安全類別標簽。本申請通過融合兩種標簽分類模型，從詞組及全文的維度精準地檢測文本信息的安全類別。

技術領域

本發明實施例涉及信息安全領域，尤其是一種安全類別標簽檢測方法、裝 置、計算機設備及存儲介質。

背景技術

在現有的技術中，較多是使用違規關鍵詞，對信息內容進行匹配，當匹配 內容中存在的關鍵詞，結合白名單進行判斷內容是否違規；也有部分技術，計 算了信息文本與數據庫中黑名單內容的文本相似性，當相似度高于閾值時，則 判斷內容違規。

通過關鍵詞匹配的方法，忽略了文本之間的語義信息，召回出來的數據大 多數是與違規類別不相關的噪聲數據。而通過相似度的方法，則非常依賴于收 集的樣本庫，當信息文本出現了數據庫中不存在的樣本，那么該方法很大可能 會出現漏召回的情況。因此，如何提高推送的信息文本的違規檢測的質量，成 為需要本領域技術人員解決的技術問題。

發明內容

本申請的目的在于克服現有技術的至少部分不足而提供一種安全類別標簽 檢測方法、裝置、計算機設備及存儲介質。

為實現本申請的目的，采用如下技術方案：

適應本申請的目的之一而提出的一種安全類別標簽檢測方法，包括如下步 驟：

獲取待檢測安全類別標簽的文本信息；

調用序列標注模型為所述文本信息標注文本信息中的關鍵詞及關鍵詞所屬 的安全類別標簽，根據各安全類別標簽所標注的關鍵詞計算該文本信息分別屬 于各安全類別標簽的分詞評估分值，所述序列標注模型被預先訓練至收斂狀態；

調用文本分類模型為所述文本信息進行分類評估，獲得該文本信息分別命 中所述各個安全類別標簽的全文評估分值，所述文本分類模型被預先訓練至收 斂狀態；

將各個安全類別標簽相對應的分詞評估分值與全文評估分值進行線性融 合，獲得所述文本信息分別屬于各個安全類別標簽的綜合評估分值，確定綜合 評估分值最大者為所述文本信息的安全類別標簽。

進一步的實施例中，獲取待檢測安全類別標簽的文本信息的步驟，包括： 響應文本信息提交事件，提取其中的文本信息，該文本信息包含待發布廣告的 內容文本、待發布公告的內容文本或待發表文章的內容文本；

而在確定綜合評估分值最大者為所述文本信息的安全類別標簽之后，包括 如下步驟：判斷所述安全類別標簽的安全屬性，當其為非安全屬性時，禁止發 布該文本信息；當其為安全屬性時，允許發布該文本信息。

進一步的實施例中，調用序列標注模型為所述文本信息標注文本信息中的 關鍵詞及關鍵詞所屬的安全類別標簽，根據各安全類別標簽所標注的關鍵詞計 算該文本信息分別屬于各安全類別標簽的分詞評估分值，包括如下具體步驟：

將所述文本信息導入序列標注模型中進行基于語義特征的關鍵詞提取，獲 得表征為語義向量的關鍵詞序列；

所述序列標注模型基于所述語義向量對關鍵詞序列進行標簽預測，獲得描 述各個關鍵詞相對應的安全類別標簽的標簽序列；

所述序列標注模型根據所述標簽序列中屬于非安全屬性的安全類別標簽所 對應的關鍵詞計算該文本信息分別屬于各安全類別標簽的分詞評估分值。