[發明專利]機器審核方法、裝置及機器審核服務器

有效

• 申請號: 202010173141.9
• 申請日: 2020-03-12
• 公開（公告）號: CN111382291B
• 公開（公告）日: 2023-05-23
• 發明（設計）人: 李夢晨;李九思;張秋實
• 申請（專利權）人: 北京金山云網絡技術有限公司
• 主分類號: G06F16/55
• 分類號: G06F16/55;G06F16/75;G06F18/24
• 代理公司: 北京超凡宏宇專利代理事務所(特殊普通合伙) 11463
• 代理人: 徐麗

1.一種機器審核方法，其特征在于，包括：

獲取待審核對象，以及關于所述待審核對象的審核服務要求；

從審核策略庫的白名單策略，圖片檢索策略或人臉比對策略中，確定與所述審核服務要求對應的策略；其中，所述白名單策略中預設有客戶端白名單；所述審核策略庫中包括模型審核策略；所述模型審核策略包括多個與不同審核服務要求對應的審核模型，所述審核模型對應有預設模型標簽，所述模型標簽用于描述所述審核模型的審核類別；所述審核策略庫中還包括所述白名單策略，所述圖片檢索策略和所述人臉比對策略；

將確定出的所述策略配置到所述審核策略中；

從模型審核策略中，確定與所述審核服務要求對應的審核模型；

對每一個確定的所述審核模型，建立所述審核模型的模型標簽與服務標簽的映射關系；

將確定的所述審核模型和所述映射關系，配置為與所述待審核對象對應的審核策略；

獲取所述待審核對象的來源客戶端；

判斷所述客戶端是否屬于所述客戶端白名單的范圍；

若是，將預設比例的所述待審核對象對應的所述服務標簽確定為審核正常；將除所述預設比例部分之外的所述待審核對象，根據配置的除所述白名單策略之外的審核策略進行審核。

2.根據權利要求1所述的機器審核方法，其特征在于，在所述將除所述預設比例部分之外的所述待審核對象，根據配置的除所述白名單策略之外的審核策略進行審核的步驟之后，所述方法還包括：

輸出審核結果；所述審核結果包括所述待審核對象對應的服務標簽，所述服務標簽用于描述所述待審核對象的違規類型或合規類型。

3.根據權利要求2所述的機器審核方法，其特征在于，所述服務標簽包括多級粒度的子服務標簽，所述多級粒度的子服務標簽根據所述待審核對象的審核服務要求確定。

4.根據權利要求1所述的機器審核方法，其特征在于，配置的所述審核策略中包括所述模型審核策略；

所述將除所述預設比例部分之外的所述待審核對象，根據配置的除所述白名單策略之外的審核策略進行審核的步驟，包括：

通過所述模型審核策略中確定的所述審核模型，對所述待審核對象的內容進行審核，得到所述審核模型的每個模型標簽對應的置信度值；

從每個所述審核模型的所述模型標簽中，篩選出最大置信度值對應的所述模型標簽；

根據所述映射關系，計算篩選出的所述模型標簽對應的所述服務標簽；

將計算得到的所述服務標簽確定為所述待審核對象的審核結果。

5.根據權利要求1所述的機器審核方法，其特征在于，如果配置的所述審核策略中包括所述白名單策略，所述圖片檢索策略和所述人臉比對策略中的至少一個；

所述將除所述預設比例部分之外的所述待審核對象，根據配置的除所述白名單策略之外的審核策略進行審核的步驟，包括：

按照所述審核策略的預設優先級，對配置的所述審核策略從高優先級到低優先級進行排序；

通過排序后的所述審核策略，依次對所述待審核對象的內容進行審核。

6.根據權利要求5所述的機器審核方法，其特征在于，所述審核策略的優先級從高到底依次為：所述白名單策略，所述圖片檢索策略，所述人臉比對策略和所述模型審核策略。

7.根據權利要求1所述的機器審核方法，其特征在于，所述待審核對象為圖片，并且，配置的所述審核策略中包括所述圖片檢索策略；

所述將除所述預設比例部分之外的所述待審核對象，根據配置的除所述白名單策略之外的審核策略進行審核的步驟，包括：

從預設圖片樣本庫中，按預設選取方式選取預設數量的圖片樣本；

計算所述待審核對象與選取出的所述圖片樣本的相似度；

將所述相似度超過預設相似度閾值的所述圖片樣本對應的預設服務標簽，確定為所述待審核對象的審核結果。