[發明專利]一種基于人工智能的內容審核系統及方法

有效

• 申請號: 202211638108.4
• 申請日: 2022-12-20
• 公開（公告）號: CN115618844B
• 公開（公告）日: 2023-03-07
• 發明（設計）人: 孫迎軍;陳明杰;張銳;陳磊;黃月霞
• 申請（專利權）人: 江蘇龍虎網信息科技股份有限公司
• 主分類號: G06F40/194
• 分類號: G06F40/194;G06F40/117;G06Q10/10
• 代理公司: 南京明杰知識產權代理事務所(普通合伙) 32464
• 代理人: 張文杰

1.一種基于人工智能的內容審核方法，其特征在于：包括以下步驟：

Z1：采集新聞內容的歷史審核數據以及對以往審核出的錯誤內容進行修改的信息；

Z2：對當前新聞內容進行審核，獲取審核出的錯誤內容及其對應的修改信息；

Z3：對審核出的錯誤內容表達的信息進行匹配，對相似的錯誤內容表達的信息統一進行修改信息標記；

在步驟Z1中：采集到已審核完成的新聞內容數據量集合為B={B1，B2，…，Bn}，采集到審核對應新聞內容時花費的時間集合為t={t1，t2，…，tn}，修改對應新聞內容花費的時間集合為T={T1，T2，…，Tn}，其中，n表示已完成的審核次數；

在步驟Z2中：將當前待審核的內容輸入到文本檢測模型中進行檢測：將文本檢測模型中的錯誤內容與當前待審核的內容進行匹配，判斷當前待審核的內容中是否存在與文本檢測模型中相同的錯誤內容：若存在，表示匹配成功，對錯誤內容進行標記；若不存在，表示匹配失敗，利用人工審核方式對當前待審核的內容進行二次審核；

在步驟Z3中：將已審核完成且存在錯誤的新聞內容及其對應的修改信息輸入到文本檢測模型中，若監測到當前待審核的內容中存在與文本檢測模型中相同的錯誤內容，在標記當前錯誤內容的同時在當前錯誤內容處標記對應的修改信息，獲取到共有m處錯誤內容需要修改，當前錯誤內容表達的信息集合為W={W1，W2，…，Wm}，將錯誤內容表達的信息轉化為字符串，得到字符串集合為s={s1，s2，…，sm}，獲取到字符串長度集合為length（s）={length（s1），length（s2），…，length（sm）}，獲取到隨機兩處錯誤信息轉化為字符串后，兩個字符串中相同字符個數為c（si，sj），根據下列公式計算隨機兩處錯誤信息的綜合相似度Au：

；

其中，表示描述隨機兩處錯誤信息共性需要的信息量，表示完整描述隨機兩處錯誤信息需要的信息量，length（si）和length（sj）表示將對應兩處錯誤信息轉化為字符串后，對應兩個字符串長度，Wi和Wj表示當前隨機兩處錯誤內容表達的信息，si和sj表示將對應兩處錯誤內容表達的信息轉化后得到的字符串，根據相同計算方式得到錯誤信息兩兩間的綜合相似度集合為A={A1，A2，…，Au，…，Aq}，其中，q表示綜合相似度項數，，設置綜合相似度閾值為A^’，比較綜合相似度和閾值：對超出閾值的綜合相似度對應的錯誤信息進行統一標記：在對應錯誤信息處標記相同的修改信息，將標記完成的內容發送給相關人員供參考修改。

2.根據權利要求1所述的一種基于人工智能的內容審核方法，其特征在于：該方法還包括以下內容：調取并分析以往審核并修改不同內容時花費的時間，預測審核并修改當前新聞內容需要花費的時間：建立線性回歸預測模型：y=E*x+b，其中，E表示權重參數，b表示偏置，通過求解E和b得到預測模型，根據調取的數據獲取得到訓練數據集為{（B1，t1+T1），（B2，t2+T2），…，（Bn，tn+Tn）}，根據下列公式分別求解E和b：

；

；

其中，Bi表示隨機一個已審核完成的新聞內容數據量，ti表示審核對應已審核完成的新聞內容花費的時間，Ti表示修改對應新聞內容花費的時間，采集到當前新聞內容數據量為B^’，將B^’代入到線性回歸預測模型中，預測得到審核并修改當前新聞內容需要花費的時間為V：V=E* B^’+b。

3.根據權利要求2所述的一種基于人工智能的內容審核方法，其特征在于：判斷當前新聞內容是否能夠按時發布：獲取到當前審核內容的發布截止時間為T_截，審核開始的時間為T_起，比較V和T_截-T_起：若V≤T_截-T_起，判斷當前新聞內容能夠按時發布；若VT_截-T_起，判斷當前新聞內容無法按時發布，發出延時預警信號，提醒相關人員加快審核和修改進度。