[發明專利]一種基于人工智能的內容審核系統及方法

有效

• 申請號: 202211638108.4
• 申請日: 2022-12-20
• 公開（公告）號: CN115618844B
• 公開（公告）日: 2023-03-07
• 發明（設計）人: 孫迎軍;陳明杰;張銳;陳磊;黃月霞
• 申請（專利權）人: 江蘇龍虎網信息科技股份有限公司
• 主分類號: G06F40/194
• 分類號: G06F40/194;G06F40/117;G06Q10/10
• 代理公司: 南京明杰知識產權代理事務所(普通合伙) 32464
• 代理人: 張文杰

本發明公開了一種基于人工智能的內容審核系統及方法，包括：審核信息采集模塊、數據管理中心、內容審核管理模塊、內容修改管理模塊和審核預警模塊，通過審核信息采集模塊采集歷史審核完成的新聞內容數據和審核并修改花費的時間數據，通過數據管理中心存儲并管理采集到的全部數據，通過內容審核管理模塊利用神經網絡模型對新聞內容進行審核，并在審核前預先將以往審核出的錯誤內容對應的修改信息存儲到神經網絡模型中，通過內容修改管理模塊匹配審核出的錯誤信息，對相似的錯誤信息統一進行修改信息標記，通過審核預警模塊預判當前內容能否按時發布并進行預警，加快了內容審核、修改以及發布的整體進度，降低了內容發布延遲的概率。

技術領域

本發明涉及人工智能技術領域，具體為一種基于人工智能的內容審核系統及方法。

背景技術

在人工智能技術驅動下，為加快使用傳統媒體和新興媒體融合發展的需求，急需開展前沿技術嵌入，為解決傳統內容審核完全依靠人工處理導致審核效率無法提高的問題，采用人工智能技術對新聞內容進行智能化審核是媒體行業的發展趨勢；

然而，現有的內容審核方式仍然存在以下問題：首先，在對內容審核完成后需要對錯誤或不當內容進行修改，利用人工智能技術對內容進行審核，在審核處錯誤或者不當的內容時，無法提供建議修改信息，從而導致無法在進行審核的同時兼顧加快內容審核、修改以及發布的整體進度；其次，部分新聞內容從審核到發布是有限制時間的，現有技術在對內容進行審核時無法提前對內容是否能夠準時發布進行預判，相關人員依舊按照平常進度進行審核、修改，容易導致內容發布出現延遲現象。

所以，人們需要一種基于人工智能的內容審核系統及方法來解決上述問題。

發明內容

本發明的目的在于提供一種基于人工智能的內容審核系統及方法，以解決上述背景技術中提出的問題。

為了解決上述技術問題，本發明提供如下技術方案：一種基于人工智能的內容審核系統，所述系統包括：審核信息采集模塊、數據管理中心、內容審核管理模塊、內容修改管理模塊和審核預警模塊；

所述審核信息采集模塊的輸出端連接所述數據管理中心的輸入端，所述數據管理中心的輸出端連接所述內容審核管理模塊的輸入端，所述內容審核管理模塊的輸出端連接所述內容修改管理模塊的輸入端，所述內容修改管理模塊的輸出端連接所述審核預警模塊的輸入端；

通過所述審核信息采集模塊采集歷史審核完成的新聞內容數據和審核并修改花費的時間數據，將采集到的全部數據傳輸到所述數據管理中心；

通過所述數據管理中心存儲并管理采集到的全部數據；

通過所述內容審核管理模塊利用神經網絡模型對新聞內容進行審核，并在審核前預先將以往審核出的錯誤內容對應的修改信息存儲到神經網絡模型中；

通過所述內容修改管理模塊匹配審核出的錯誤內容所表達的信息，對相似的錯誤信息統一進行修改信息標記；

通過所述審核預警模塊預測當前審核和修改需要花費的時間，在判斷出當前內容不能按時發布時發出預警信號。

進一步的，所述審核信息采集模塊包括修改信息采集單元、審核時間采集單元和修改時間采集單元；

所述修改信息采集單元、審核時間采集單元和修改時間采集單元的輸出端連接所述數據管理中心的輸入端；

所述修改信息采集單元用于采集已審核出的錯誤內容以及錯誤內容對應的修改信息；

所述審核時間采集單元用于采集已審核完成內容的審核花費的時間和審核數據量；

所述修改時間采集單元用于采集對已審核出的錯誤內容進行修改需要的時間數據。

進一步的，所述內容審核管理模塊包括修改信息輸入單元和人工智能審核單元；