[發明專利]機器審核方法、裝置及機器審核服務器

有效

• 申請號: 202010173141.9
• 申請日: 2020-03-12
• 公開（公告）號: CN111382291B
• 公開（公告）日: 2023-05-23
• 發明（設計）人: 李夢晨;李九思;張秋實
• 申請（專利權）人: 北京金山云網絡技術有限公司
• 主分類號: G06F16/55
• 分類號: G06F16/55;G06F16/75;G06F18/24
• 代理公司: 北京超凡宏宇專利代理事務所(特殊普通合伙) 11463
• 代理人: 徐麗

本發明提供了一種機器審核方法、裝置及機器審核服務器，涉及機器審核技術領域，首先獲取待審核對象，以及關于該待審核對象的審核服務要求；然后根據該審核服務要求，從預設的審核策略庫中，配置與待審核對象對應的審核策略；進而通過配置的審核策略，對待審核對象的內容進行審核。本發明根據客戶的審核服務要求，對待審核對象的審核策略進行相應地配置，以根據配置的審核策略對審核對象進行審核，提高了機器審核的策略配置靈活度。

技術領域

本發明涉及機器審核技術領域，尤其是涉及一種機器審核方法、裝置及機器審核服務器。

背景技術

移動互聯網時代，互聯網上的各類數據呈現爆炸式增長，大量的圖片、視頻等內容持續被創作、傳播。

為了更好監管網絡內容，通常需要對相關的內容平臺進行人工審核和機器審核。對于機器審核，它可以根據客戶的審核需求，預先配置服務所用的審核模型，模型輸出標簽與服務輸出標簽的映射關系，以及模型復審閾值，以保證機器盡可能召回違規內容。

但是，現有機器審核方式的審核策略配置，對所有客戶都使用系統默認的審核策略，配置缺乏靈活性。

發明內容

有鑒于此，本發明的目的在于提供一種機器審核方法、裝置及機器審核服務器，可以根據客戶需求靈活配置機器審核的審核策略。

第一方面，本發明實施例提供了一種機器審核方法，包括：獲取待審核對象，以及關于該待審核對象的審核服務要求；根據該審核服務要求，從預設的審核策略庫中，配置與待審核對象對應的審核策略；通過配置的審核策略，對待審核對象的內容進行審核。

在本發明較佳的實施例中，在上述通過配置的審核策略，對該待審核對象的內容進行審核的步驟之后，該方法還包括：輸出審核結果；該審核結果包括待審核對象對應的服務標簽，該服務標簽用于描述該待審核對象的違規類型或合規類型。

在本發明較佳的實施例中，上述服務標簽包括多級粒度的子服務標簽，該多級粒度的子服務標簽根據該待審核對象的審核服務要求確定。

在本發明較佳的實施例中，上述審核策略庫中包括模型審核策略；該模型審核策略包括多個與不同審核服務要求對應的審核模型，該審核模型對應有預設模型標簽，該模型標簽用于描述該審核模型的審核類別。

在本發明較佳的實施例中，上述根據該審核服務要求，從預設的審核策略庫中，配置與該待審核對象對應的審核策略的步驟，包括：從該模型審核策略中，確定與該審核服務要求對應的審核模型；對每一個確定的審核模型，建立該審核模型的模型標簽與服務標簽的映射關系；將確定的審核模型和映射關系，配置為與該待審核對象對應的審核策略。

在本發明較佳的實施例中，上述配置的審核策略中包括模型審核策略；上述通過配置的審核策略，對該待審核對象的內容進行審核的步驟，包括：通過模型審核策略中確定的審核模型，對該待審核對象的內容進行審核，得到該審核模型的每個模型標簽對應的置信度值；從每個審核模型的模型標簽中，篩選出最大置信度值對應的模型標簽；根據上述映射關系，計算篩選出的模型標簽對應的服務標簽；將計算得到的服務標簽確定為該待審核對象的審核結果。

在本發明較佳的實施例中，上述審核策略庫中還包括白名單策略，圖片檢索策略和人臉比對策略；在從模型審核策略中，確定與該審核服務要求對應的審核模型的步驟之前，該方法還包括：從上述白名單策略，圖片檢索策略或人臉比對策略中，確定與該審核服務要求對應的策略；將確定出的策略配置到審核策略中。

在本發明較佳的實施例中，如果配置的審核策略中包括白名單策略，圖片檢索策略和人臉比對策略中的至少一個；上述通過配置的審核策略，對待審核對象的內容進行審核的步驟，包括：按照該審核策略的預設優先級，對配置的審核策略從高優先級到低優先級進行排序；通過排序后的審核策略，依次對待審核對象的內容進行審核。