[發明專利]線上評論的違規片段提取方法和裝置

在審

• 申請號: 202210751908.0
• 申請日: 2022-06-29
• 公開（公告）號: CN114996556A
• 公開（公告）日: 2022-09-02
• 發明（設計）人: 劉堡萱;文成明
• 申請（專利權）人: 北京小川科技有限公司
• 主分類號: G06F16/953
• 分類號: G06F16/953;G06F16/35;G06F16/9038;G06F16/904
• 代理公司: 北京中和立達知識產權代理有限公司 11756
• 代理人: 楊磊

1.一種線上評論的違規片段提取方法，其特征在于，所述方法包括：

通過文本分類模型對互聯網社區的每個線上評論進行分類，以得到文本分類結果，其中，文本分類結果包括評論通過審核和評論疑似違規；

對文本分類結果為評論疑似違規的所有第一目標線上評論進行人工審核和違規片段標注，以得到第一訓練集；

從文本分類結果為評論通過審核的所有第二目標線上評論中抽取第三目標線上評論，以得到第二訓練集；

使用所述第一訓練集和所述第二訓練集進行模型訓練，以得到違規片段提取模型；

使用所述違規片段提取模型對所述多個線上評論進行違規片段提取，以得到違規片段提取結果；

根據每個線上評論對應的文本分類結果和違規片段提取結果確定其是否通過違規審核。

2.根據權利要求1所述的方法，其特征在于，從文本分類結果為評論通過審核的所有第二目標線上評論中抽取第三目標線上評論，以得到第二訓練集，包括：

從文本分類結果為評論通過審核的所有第二目標線上評論中抽取與所述第一訓練集等量的第三目標線上評論，以得到第二訓練集。

3.根據權利要求1所述的方法，其特征在于，對文本分類結果為評論疑似違規的所有第一目標線上評論進行人工審核和違規片段標注，以得到第一訓練集，包括：

對文本分類結果為評論疑似違規的所有第一目標線上評論進行人工審核判斷所述第一目標線上評論是否違規；

當判斷所述第一目標線上評論違規時，對其進行違規片段標注后，加入所述第一訓練集；

當判斷所述第一目標線上評論不違規時，確定所述第一目標線上評論通過審核。

4.根據權利要求1所述的方法，其特征在于，根據每個線上評論對應的文本分類結果和違規片段提取結果確定其是否通過違規審核，包括：

計算所述違規片段提取模型輸出的所有違規片段提取結果的準確率；

當所述準確率小于預設準確率時，確定文本分類結果為評論通過審核且違規片段提取結果為無違規片段的線上評論通過審核，否則，確定線上評論未通過審核；

當所述準確率大于或等于預設準確率時，確定文本分類結果為評論通過審核且違規片段提取結果為無違規片段，以及文本分類結果為評論疑似違規且違規片段提取結果為無違規片段的線上評論通過審核，否則，確定線上評論未通過審核。

5.根據權利要求4所述的方法，其特征在于，所述方法還包括：

對于未通過審核的線上評論進行人工審核，以確定所述未通過審核的線上評論是否違規；

當判斷所述未通過審核的線上評論違規時，對其進行違規片段標注，并加入所述第一訓練集；

當判斷所述未通過審核的線上評論不違規時，確定所述未通過審核的線上評論通過審核。

6.一種線上評論的違規片段提取裝置，其特征在于，所述裝置包括：

分類模塊，用于通過文本分類模型對互聯網社區的每個線上評論進行分類，以得到文本分類結果，其中，文本分類結果包括評論通過審核和評論疑似違規；

標注模塊，用于對文本分類結果為評論疑似違規的所有第一目標線上評論進行人工審核和違規片段標注，以得到第一訓練集；

抽取模塊，用于從文本分類結果為評論通過審核的所有第二目標線上評論中抽取第三目標線上評論，以得到第二訓練集；

訓練模塊，用于使用所述第一訓練集和所述第二訓練集進行模型訓練，以得到違規片段提取模型；

提取模塊，用于使用所述違規片段提取模型對所述多個線上評論進行違規片段提取，以得到違規片段提取結果；

確定模塊，用于根據每個線上評論對應的文本分類結果和違規片段提取結果確定其是否通過違規審核。

7.根據權利要求6所述的裝置，其特征在于，所述抽取模塊具體用于：

從文本分類結果為評論通過審核的所有第二目標線上評論中抽取與所述第一訓練集等量的第三目標線上評論，以得到第二訓練集。