[發(fā)明專利]廣告內(nèi)容信息過濾人工智能審核系統(tǒng)

在審

• 申請(qǐng)?zhí)枺?/td>: 201911069315.0
• 申請(qǐng)日: 2019-11-05
• 公開（公告）號(hào): CN110837615A
• 公開（公告）日: 2020-02-25
• 發(fā)明（設(shè)計(jì)）人: 鄒培利
• 申請(qǐng)（專利權(quán)）人: 福建省趨普物聯(lián)科技有限公司
• 主分類號(hào): G06F16/957
• 分類號(hào): G06F16/957;G06Q30/02
• 代理公司: 廈門市寬信知識(shí)產(chǎn)權(quán)代理有限公司 35246
• 代理人: 巫麗青

本發(fā)明屬于計(jì)算機(jī)網(wǎng)絡(luò)技術(shù)領(lǐng)域，更具體地，涉及一種廣告內(nèi)容信息過濾人工智能審核系統(tǒng)。該廣告內(nèi)容信息過濾人工智能審核系統(tǒng)對(duì)各種文字、圖片、視頻和語音進(jìn)行監(jiān)控，識(shí)別其中的不良內(nèi)容，阻斷不良內(nèi)容的傳輸，以防止不良內(nèi)容的傳播，造成惡劣影響。

技術(shù)領(lǐng)域

本發(fā)明屬于計(jì)算機(jī)網(wǎng)絡(luò)技術(shù)領(lǐng)域，更具體地，涉及一種廣告內(nèi)容信息過濾人工智能審核系統(tǒng)。

背景技術(shù)

隨著公共場(chǎng)所電子屏(以下簡(jiǎn)稱廣告屏)技術(shù)不斷發(fā)展和智能設(shè)備的大規(guī)模普及，廣告屏上的應(yīng)用功能越來越多，受眾群體也越來越廣，在文化內(nèi)容極大豐富的同時(shí)，也產(chǎn)生了各種各樣的問題，廣告電子屏設(shè)備網(wǎng)絡(luò)安全、內(nèi)容安全給我們帶來了很大的挑戰(zhàn)，包括色情、涉政、暴恐等各類違反社會(huì)穩(wěn)定和諧、甚至國家安全的內(nèi)容。而傳統(tǒng)的廣告屏內(nèi)容過濾審核方式及人工審核采用事前審核，再通過網(wǎng)絡(luò)或者4G數(shù)傳設(shè)備傳送到電子屏播放控制器中，無法保證在播放過程中，播放控制器受到黑客攻擊、人為誤操作或內(nèi)容篡改，沒有良好的控制手段，實(shí)時(shí)性也得不到保障。

為了實(shí)現(xiàn)對(duì)廣告屏播放內(nèi)容環(huán)境的凈化，必須對(duì)傳輸?shù)綇V告屏的過程中，內(nèi)容進(jìn)行實(shí)時(shí)控制和自動(dòng)審核，包括不良圖片、視頻、音頻、文字、自定義規(guī)則進(jìn)行監(jiān)控，直接切斷播放控制器和廣告屏之間的HDMI有害信息的傳播數(shù)據(jù)流，并實(shí)現(xiàn)事中控制、事后取證的能力。

發(fā)明內(nèi)容

為此，需要提供一種廣告內(nèi)容信息過濾人工智能審核系統(tǒng)，該廣告內(nèi)容信息過濾人工智能審核系統(tǒng)對(duì)各種文字、圖片、視頻和語音進(jìn)行監(jiān)控，識(shí)別其中的不良內(nèi)容，阻斷不良內(nèi)容的傳輸，以防止不良內(nèi)容的傳播，造成惡劣影響。

為實(shí)現(xiàn)上述目的，本發(fā)明采用如下技術(shù)方案：

廣告內(nèi)容信息過濾人工智能審核系統(tǒng)，該系統(tǒng)包括，

數(shù)據(jù)采集模塊，用于采集文字、圖片、視頻和語音信息；

算法模型訓(xùn)練模塊，用于訓(xùn)練對(duì)數(shù)據(jù)進(jìn)行處理的算法模型，并對(duì)算法模型進(jìn)行標(biāo)注，以便于調(diào)用；

算法服務(wù)模塊，根據(jù)智能檢測(cè)模塊的需要從算法模型訓(xùn)練模塊調(diào)用不同的算法模型對(duì)數(shù)據(jù)進(jìn)行處理；

智能檢測(cè)模塊，根據(jù)數(shù)據(jù)采集模型采集的數(shù)據(jù)，調(diào)用算法服務(wù)模塊中對(duì)應(yīng)的算法模型對(duì)數(shù)據(jù)進(jìn)行檢測(cè)，并將檢測(cè)結(jié)果發(fā)送給數(shù)據(jù)分析模塊、審核模塊和處置模塊；

審核模塊，根據(jù)數(shù)據(jù)管理模塊的定義，對(duì)智能檢測(cè)模塊的檢測(cè)結(jié)果進(jìn)行審核，將審核結(jié)果發(fā)送給數(shù)據(jù)分析模塊和數(shù)據(jù)存儲(chǔ)模塊；

處置模塊，針對(duì)智能檢測(cè)模塊的檢測(cè)結(jié)果，給出處置建議；

數(shù)據(jù)管理模塊，用于管理不同類型數(shù)據(jù)的案例，這些數(shù)據(jù)案例為算法服務(wù)模塊和審核模塊提供參考；

數(shù)據(jù)存儲(chǔ)模塊，用于進(jìn)行數(shù)據(jù)存儲(chǔ)；

數(shù)據(jù)分析模塊，根據(jù)檢測(cè)結(jié)果和審核結(jié)果進(jìn)行預(yù)警、統(tǒng)計(jì)、取證；

系統(tǒng)管理模塊，用于管理登錄系統(tǒng)的用戶，消息提醒，系統(tǒng)的運(yùn)行狀態(tài)。

本技術(shù)方案進(jìn)一步的優(yōu)化，算法模型訓(xùn)練模塊訓(xùn)練的模塊包括深度網(wǎng)絡(luò)模型。

本技術(shù)方案進(jìn)一步的優(yōu)化，所述算法服務(wù)模塊包括智能鑒黃、暴恐識(shí)別、廣告識(shí)別、人臉對(duì)比、LOGO識(shí)別、不良場(chǎng)景識(shí)別、圖文OCR、人臉?biāo)阉鳌⒗谋咀R(shí)別、競(jìng)品評(píng)論過濾、無意義彈幕過濾、刷屏/灌水識(shí)別、文本相似度、聲紋識(shí)別、語種識(shí)別、語音轉(zhuǎn)文字、視頻指紋、視頻分類、視頻字幕提取和視頻標(biāo)簽提取中的一種或者多種。

本技術(shù)方案進(jìn)一步的優(yōu)化，所述智能檢測(cè)模塊包括鑒權(quán)、流控、調(diào)用和綜合決策。

本技術(shù)方案進(jìn)一步的優(yōu)化，所述審核模塊包括任務(wù)智能管理、審核打標(biāo)和標(biāo)簽管理。

本技術(shù)方案進(jìn)一步的優(yōu)化，所述處理模塊包括處置策略配置和處置建議反饋。