[發明專利]輿情預警的實現方法和裝置

有效

• 申請號: 201910572418.2
• 申請日: 2019-06-28
• 公開（公告）號: CN110347830B
• 公開（公告）日: 2023-09-05
• 發明（設計）人: 蔣亮;溫祖杰;梁忠平;張家興;趙劍波
• 申請（專利權）人: 創新先進技術有限公司
• 主分類號: G06F16/35
• 分類號: G06F16/35;G06N3/0442
• 代理公司: 北京博思佳知識產權代理有限公司 11415
• 代理人: 周嗣勇

1.一種輿情預警的實現方法，包括：

從輿情信息源獲取待判定輿情數據；

將待判定輿情數據輸入訓練后的任務模型，根據訓練后任務模型的輸出確定是否發出預警；所述任務模型為分類模型，其輸入為文本，輸出包括對是否發生輿情的預測；所述任務模型按照完成預訓練的語言模型進行初始化，采用有標記的樣本輿情數據進行訓練；所述語言模型與任務模型除歸一化Softmax層以外具有相同的結構，其輸出為對輸入文本的下文的預測；所述語言模型采用無標記文本數據進行預訓練；

所述任務模型采用有標記的樣本輿情數據進行訓練，包括：將樣本輿情數據輸入任務模型，根據任務模型的輸出與樣本輿情數據的標記計算損失函數的值，按照損失函數的值調整任務模型內的參數值。

2.根據權利要求1所述的方法，所述任務模型按照完成預訓練的語言模型進行初始化，包括：在訓練任務模型前，將任務模型中除Softmax層以外其他各層的每個參數值，設置為與完成預訓練的語言模型相同。

3.根據權利要求1所述的方法，所述語言模型采用無標記文本數據進行預訓練，包括：所述語言模型先采用通用語料進行通用預訓練，再采用輿情語料對通用預訓練完成后的語言模型進行目標預訓練。

4.根據權利要求1所述的方法，所述任務模型和語言模型為：長短期記憶網絡LSTM模型。

5.根據權利要求1所述的方法，所述任務模型的輸入為：若干個連續的詞；所述待判定輿情數據包括：將文本語句進行分詞后得到的詞序列。

6.一種輿情預警的實現裝置，包括：

待判定數據獲取單元，用于從輿情信息源獲取待判定輿情數據；

任務模型使用單元，用于將待判定輿情數據輸入訓練后的任務模型，根據訓練后任務模型的輸出確定是否發出預警；所述任務模型為分類模型，其輸入為文本，輸出包括對是否發生輿情的預測；所述任務模型按照完成預訓練的語言模型進行初始化，采用有標記的樣本輿情數據進行訓練；所述語言模型與任務模型除歸一化Softmax層以外具有相同的結構，其輸出為對輸入文本的下文的預測；所述語言模型采用無標記文本數據進行預訓練；

所述任務模型采用有標記的樣本輿情數據進行訓練，包括：將樣本輿情數據輸入任務模型，根據任務模型的輸出與樣本輿情數據的標記計算損失函數的值，按照損失函數的值調整任務模型內的參數值。

7.根據權利要求6所述的裝置，所述任務模型按照完成預訓練的語言模型進行初始化，包括：在訓練任務模型前，將任務模型中除Softmax層以外其他各層的每個參數值，設置為與完成預訓練的語言模型相同。

8.根據權利要求6所述的裝置，所述語言模型采用無標記文本數據進行預訓練，包括：所述語言模型先采用通用語料進行通用預訓練，再采用輿情語料對通用預訓練完成后的語言模型進行目標預訓練。

9.根據權利要求6所述的裝置，所述任務模型和語言模型為：長短期記憶網絡LSTM模型。

10.根據權利要求6所述的裝置，所述任務模型的輸入為：若干個連續的詞；所述待判定輿情數據包括：將文本語句進行分詞后得到的詞序列。

11.一種計算機設備，包括：存儲器和處理器；所述存儲器上存儲有可由處理器運行的計算機程序；所述處理器運行所述計算機程序時，執行如權利要求1到5任意一項所述的方法。

12.一種計算機可讀存儲介質，其上存儲有計算機程序，所述計算機程序被處理器運行時，執行如權利要求1到5任意一項所述的方法。