[發明專利]文本審核方法、裝置、設備及存儲介質

在審

• 申請號: 202011548444.0
• 申請日: 2020-12-23
• 公開（公告）號: CN112686049A
• 公開（公告）日: 2021-04-20
• 發明（設計）人: 劉建立
• 申請（專利權）人: 平安普惠企業管理有限公司
• 主分類號: G06F40/30
• 分類號: G06F40/30;G06F40/289;G06F40/253;G06N3/04;G06N3/08
• 代理公司: 深圳市力道知識產權代理事務所(普通合伙) 44507
• 代理人: 賀小旺

本發明涉及人工智能技術領域，公開了一種文本審核方法、裝置、計算機設備及計算機可讀存儲介質，該方法包括：通過將獲取到的待審核文本，輸入到文本審核模型中；基于所述預訓練語言模型，獲取所述待審核文本中各個字詞的字詞語義特征向量信息；基于所述長短期記憶網絡，得到各個所述字詞的的上下文語義特征向量信息；通過預置全連接層，得到各個所述字詞的多個標簽信息；基于所述條件隨機場對各個所述字詞的多個標簽信息進行關聯學習，獲取所述待審核文本中各個字詞的審核標簽信息；基于各個所述字詞的審核標簽信息，確定所述待審核文本是否違規，實現對于文本不同語義結合上下文語境判斷文本,提高文本審核的準確率。

技術領域

本申請涉及人工智能技術領域，尤其涉及一種文本審核方法、裝置、計算機設備及計算機可讀存儲介質。

背景技術

文本審核就是審核文本中的違規信息，包括政治敏感、色情、辱罵等。目前常見的做法是通過深度學習網絡模型對文本進行審核，但通過深度學習網絡模型無法審核出不同文本中相同的字詞在不同上下文語境中不同語義的問題，且審核的準確率較低。

發明內容

本申請的主要目的在于提供一種文本審核方法、裝置、計算機設備及計算機可讀存儲介質，旨在解決現有深度學習網絡模型無法審核出不同文本中相同的字詞在不同上下文語境中不同語義的問題，且審核的準確率較低的技術問題。

第一方面，本申請提供一種文本審核方法，所述文本審核方法包括以下步驟：

獲取待審核文本，并將所述待審核文本輸入到文本審核模型中，其中，所述文本審核模型包括預訓練語言模型、長短期記憶網絡和條件隨機場；

基于所述預訓練語言模型，獲取所述待審核文本中各個字詞的字詞語義特征向量信息；

基于所述長短期記憶網絡和各個所述字詞的字詞語義特征向量信息，得到各個所述字詞的的上下文語義特征向量信息；

通過預置全連接層對各個所述字詞的的上下文語義特征向量信進行線性變換，得到各個所述字詞的多個標簽信息；

基于所述條件隨機場對各個所述字詞的多個標簽信息進行關聯學習，獲取所述待審核文本中各個字詞的審核標簽信息；

基于各個所述字詞的審核標簽信息，確定所述待審核文本是否違規。

第二方面，本申請還提供一種文本審核裝置，所述文本審核裝置包括：

第一獲取模塊，用于獲取待審核文本，并將所述待審核文本輸入到文本審核模型中，其中，所述文本審核模型包括預訓練語言模型、長短期記憶網絡和條件隨機場；

第二獲取模塊，用于基于所述預訓練語言模型，獲取所述待審核文本中各個字詞的字詞語義特征向量信息；

第三獲取模塊，用于基于所述長短期記憶網絡和各個所述字詞的字詞語義特征向量信息，得到各個所述字詞的的上下文語義特征向量信息；

第四獲取模塊，用于通過預置全連接層對各個所述字詞的的上下文語義特征向量信進行線性變換，得到各個所述字詞的多個標簽信息；

第五獲取模塊，用于基于所述條件隨機場對各個所述字詞的多個標簽信息進行關聯學習，獲取所述待審核文本中各個字詞的審核標簽信息；

確定模塊，用于基于各個所述字詞的審核標簽信息，確定所述待審核文本是否違規。

第三方面，本申請還提供一種計算機設備，所述計算機設備包括處理器、存儲器、以及存儲在所述存儲器上并可被所述處理器執行的計算機程序，其中所述計算機程序被所述處理器執行時，實現如上述的文本審核方法的步驟。

第四方面，本申請還提供一種計算機可讀存儲介質，所述計算機可讀存儲介質上存儲有計算機程序，其中所述計算機程序被處理器執行時，實現如上述的文本審核方法的步驟。