[發(fā)明專利]一種基于人工智能的互聯(lián)網(wǎng)媒體內(nèi)容安全監(jiān)測系統(tǒng)及方法

在審

• 申請?zhí)枺?/td>: 201910776477.1
• 申請日: 2019-08-21
• 公開（公告）號: CN110598075A
• 公開（公告）日: 2019-12-20
• 發(fā)明（設計）人: 高燕;桂承波;唐聃;岳希;曾瓊;劉敦龍
• 申請（專利權）人: 成都信息工程大學
• 主分類號: G06F16/951
• 分類號: G06F16/951;G06F16/35;G06F16/9535
• 代理公司: 11308 北京元本知識產(chǎn)權代理事務所
• 代理人: 王紅霞

本發(fā)明屬于媒體內(nèi)容安全監(jiān)測技術領域，公開了一種基于人工智能的互聯(lián)網(wǎng)媒體內(nèi)容安全監(jiān)測系統(tǒng)及方法，包括基礎設施模塊、數(shù)據(jù)處理模塊、媒體數(shù)據(jù)中心、內(nèi)容分析模塊、應用服務模塊、人機交互模塊以及運維管理模塊。本發(fā)明能夠?qū)ヂ?lián)網(wǎng)媒體中的文本、聲音、圖像及視頻內(nèi)容進行監(jiān)測、發(fā)現(xiàn)并追蹤不良信息，同時能夠根據(jù)用戶的需求，對特定媒體內(nèi)容進行挖掘、分析，為用戶提供相關內(nèi)容的數(shù)據(jù)分析預警報告，提升管理決策的及時性、有效性和科學性，為相關行業(yè)的監(jiān)管提供科技支撐手段。本發(fā)明主要部署在并行計算服務器上，單服務器每天處理圖像約180萬張，每天處理視頻時長達到800小時，同時，平臺可進行多臺服務器的分布式計算。

技術領域

本發(fā)明屬于媒體內(nèi)容安全監(jiān)測技術領域，尤其涉及一種基于人工智能的互聯(lián)網(wǎng)媒體內(nèi)容安全監(jiān)測系統(tǒng)及方法。

背景技術

隨著網(wǎng)民規(guī)模的日益擴大，網(wǎng)民越來越樂于使用微博、論壇、博客等互聯(lián)網(wǎng)應用，但由此也出現(xiàn)了越來越多的輿情事件，我國的網(wǎng)絡輿情監(jiān)測也逐漸發(fā)展起來，目前對網(wǎng)絡輿情的監(jiān)測通常有兩種方式：人工方式和技術手段。由于通過人工方式來對網(wǎng)絡輿情進行監(jiān)測需要的人力和時間過于龐大，且監(jiān)測的覆蓋面有限。因此，無論是網(wǎng)絡輿情監(jiān)測機構還是有此需求的政府部門、企業(yè)等都需要借助技術手段對微博、論壇、博客等平臺進行監(jiān)測。

在目前的媒體內(nèi)容安全監(jiān)測服務中，中科院自動化所模式識別國家重點實驗室研發(fā)出了網(wǎng)絡異質(zhì)媒體監(jiān)測技術，主要分為數(shù)據(jù)流量捕獲、異質(zhì)媒體深度智能識別、基礎管理平臺三大部分組成。

現(xiàn)有技術存在的問題是：

(1)在人工智能三大核心要素“算力、數(shù)據(jù)、算法”均對從業(yè)單位提出較高的準入門檻，特別是特定行業(yè)及敏感數(shù)據(jù)獲取難度較高的問題，對媒體內(nèi)容安全監(jiān)測服務提出了很大的考驗。

(2)國內(nèi)外新媒體發(fā)展迅速且各有不同，缺乏統(tǒng)一的技術標準、管理手段和運維規(guī)范，給業(yè)務監(jiān)督帶來了巨大挑戰(zhàn)。

解決這些問題的意義：

依托海量信息抓取、搜索、數(shù)據(jù)分析等技術，監(jiān)測全網(wǎng)和指定的平臺、論壇、軟件等網(wǎng)絡媒體信息，能主動發(fā)現(xiàn)有害敏感信息、捕獲輿情熱點并進行預警；

通過對所獲取信息的挖掘分析，系統(tǒng)自動生成報告，能夠?qū)γ舾小⒇撁嫘畔⒌某掷m(xù)追蹤。為用戶應對非法信息提供自動化、系統(tǒng)化、科學化的信息支持。

發(fā)明內(nèi)容

針對現(xiàn)有技術存在的問題，本發(fā)明提供了一種基于人工智能的互聯(lián)網(wǎng)媒體內(nèi)容安全監(jiān)測系統(tǒng)及方法。

本發(fā)明是這樣實現(xiàn)的，一種基于人工智能的互聯(lián)網(wǎng)媒體內(nèi)容安全監(jiān)測系統(tǒng)，所述基于人工智能的互聯(lián)網(wǎng)媒體內(nèi)容安全監(jiān)測系統(tǒng)包括：

基礎設施模塊，用于為監(jiān)測平臺提供硬件支撐；

數(shù)據(jù)處理模塊，用于為監(jiān)測平臺提供數(shù)據(jù)支撐，從互聯(lián)網(wǎng)、APP內(nèi)容采集器、微信、微博抓取新媒體內(nèi)容，完成對相關互聯(lián)網(wǎng)和新媒體內(nèi)容的采集；

媒體數(shù)據(jù)中心，用于為視圖像的識別模型訓練；

內(nèi)容分析模塊，用于為監(jiān)測平臺提供內(nèi)容分析支撐，包括不良內(nèi)容監(jiān)測專用設備、全媒體內(nèi)容智能分析系統(tǒng)；不良內(nèi)容監(jiān)測專用設備應用于特定場所，根據(jù)客戶推送的數(shù)據(jù)進行視覺有害信息的快速識別；

應用服務模塊，用于為監(jiān)測平臺提供各類監(jiān)管應用的業(yè)務邏輯，實現(xiàn)互聯(lián)網(wǎng)和新媒體內(nèi)容的監(jiān)管以及指定微博、微信、移動APP的內(nèi)容監(jiān)測；

人機交互模塊，用于為監(jiān)測平臺提供“黑白名單”監(jiān)管業(yè)務配置，以WEB網(wǎng)頁形式將各類功能進行展示及配置；用戶通過WEB瀏覽器對系統(tǒng)進行登錄和訪問，根據(jù)權限調(diào)用不同功能模塊，下發(fā)及管理各類監(jiān)管任務；

運維管理模塊，用于為監(jiān)測平臺提供系統(tǒng)配置，以WEB網(wǎng)頁形式將各類功能進行展示及配置；包括系統(tǒng)的平臺配置管理、系統(tǒng)健康狀態(tài)、權限管理、安全審計等運維服務與管理。