[發明專利]一種內容審核方法和裝置

在審

• 申請號: 202011038667.2
• 申請日: 2020-09-28
• 公開（公告）號: CN112287270A
• 公開（公告）日: 2021-01-29
• 發明（設計）人: 鄧練兵;李大銘;方文佳
• 申請（專利權）人: 珠海大橫琴科技發展有限公司
• 主分類號: G06F16/958
• 分類號: G06F16/958
• 代理公司: 北京潤澤恒知識產權代理有限公司 11319
• 代理人: 莎日娜

1.一種內容審核方法，其特征在于，應用于運營中心，所述運營中心集成于城市門戶系統，所述城市門戶系統還包括內容安全管理平臺，所述內容安全管理平臺提供的內容審核服務接口注冊到所述城市門戶系統的統一服務網關并發布，所述方法包括：

獲取待處理數據；

調用所述內容審核服務接口，對所述待處理數據進行審核處理，得到第一審核結果；

若所述第一審核結果為審核不通過，則生成并輸出提示信息。

2.根據權利要求1所述的方法，其特征在于，所述城市門戶系統還包括多個業務平臺，所述獲取待處理數據，包括：

獲取所述多個業務平臺的用戶提交的待發布的數據；所述待處理數據包括待發布的資訊、應用、服務、消息。

3.根據權利要求1所述的方法，其特征在于，所述內容審核服務接口包括文本審核服務接口、和/或圖像審核服務接口、和/或視頻審核服務接口；所述調用所述內容審核服務接口，對所述待處理數據進行審核處理，得到第一審核結果，包括：

調用所述文本審核服務接口，對所述待處理數據中的文本數據進行文本審核處理，得到第一審核結果；

和/或，調用所述圖像審核服務接口，對所述待處理數據中的圖像數據進行圖像審核處理，得到第一審核結果；

和/或，調用所述視頻審核服務接口，對所述待處理數據中的視頻數據進行視頻審核處理，得到第一審核結果。

4.根據權利要求2所述的方法，其特征在于，所述生成并輸出提示信息的步驟包括：

生成提示信息并向所述業務平臺的用戶發送所述提示信息。

5.根據權利要求2所述的方法，其特征在于，還包括：

若所述第一審核結果為審核通過，則將所述待發布的數據發布至所述城市門戶系統。

6.根據權利要求2所述的方法，其特征在于，還包括：

若所述第一審核結果為需要人工審核，則生成并輸出人工審核指示信息，以指示所述運營中心的管理員進行人工審核；

獲取所述運營中心的管理員進行人工審核的第二審核結果；

若所述第二審核結果為審核不通過，則生成并輸出提示信息。

7.根據權利要求6所述的方法，其特征在于，還包括：

若所述第二審核結果為審核通過，則將所述待發布的數據發布至所述城市門戶系統。

8.一種內容審核裝置，其特征在于，應用于運營中心，所述運營中心集成于城市門戶系統，所述城市門戶系統還包括內容安全管理平臺，所述內容安全管理平臺提供的內容審核服務接口注冊到所述城市門戶系統的統一服務網關并發布，所述裝置包括：

待處理數據獲取模塊，用于獲取待處理數據；

審核處理模塊，用于調用所述內容審核服務接口，對所述待處理數據進行審核處理，得到第一審核結果；

提示信息輸出模塊，用于若所述第一審核結果為審核不通過，則生成并輸出提示信息。

9.一種電子設備，其特征在于，包括：處理器、存儲器及存儲在所述存儲器上并能夠在所述處理器上運行的計算機程序，所述計算機程序被所述處理器執行時實現如權利要求1至7中任一項所述的內容審核方法的步驟。

10.一種計算機可讀存儲介質，其特征在于，所述計算機可讀存儲介質上存儲計算機程序，所述計算機程序被處理器執行時實現如權利要求1至7中任一項所述的內容審核方法的步驟。