[發明專利]特定領域的詞向量增量方法、裝置及存儲介質

有效

• 申請號: 202010950721.4
• 申請日: 2020-09-11
• 公開（公告）號: CN111814473B
• 公開（公告）日: 2020-12-22
• 發明（設計）人: 陳慶偉
• 申請（專利權）人: 平安國際智慧城市科技股份有限公司
• 主分類號: G06F40/289
• 分類號: G06F40/289;G06N3/04;G06N3/08
• 代理公司: 北京鴻元知識產權代理有限公司 11327
• 代理人: 袁文婷;張娓娓

本發明涉及數據處理技術領域，提供一種特定領域的詞向量增量方法、裝置及計算機可讀存儲介質，包括：收集特定領域的語料；將特定領域的語料與特定領域的預設詞向量對照表比對，得到特定領域的詞向量空間；根據預設詞向量空間融合規則，將特定領域的詞向量空間與預先獲取的通用語料詞向量空間進行融合處理，將得到的融合的詞向量空間中的詞向量作為特定領域增量后的詞向量。本發明能夠解決現有技術中由于通用詞向量太過于龐大，在此基礎上繼續訓練需要龐大的內存等硬件資源，適用性較低；且由于通用詞向量龐大，訓練過程不穩定，難以達到理想效果等問題。

技術領域

本發明屬于數據處理技術領域，尤其涉及一種特定領域的詞向量增量方法、裝置及計算機可讀存儲介質。

背景技術

詞向量（Word embedding）是自然語言處理（NLP）中的一組語言建模和特征學習技術的統稱，其是來自詞匯表的單詞或短語被映射到實數的向量。詞向量是人類語言到計算機語言的重要橋梁，在自然語言處理領域起著至關重要的作用。

詞向量的訓練需要龐大的語料及訓練資源。在實際使用過程中，往往都是在某個特定領域，如法律、醫療，其語料具有針對性，若擴充特定領域的詞向量，目前的方法是，通用詞向量與特定領域的語料共同進行增量訓練，如Gensim包中將通用詞向量讀入再用領域語料進行增量訓練，在這個過程中，通用詞向量需要再優化，通用詞向量可以通過現有的語料包得到，例如騰訊AI Lab，是一個通過巨大的中文語料訓練出一個超過800萬的通用語料詞向量矩陣。

現有的方法由于通用詞向量太過于龐大，在此基礎上繼續訓練將需要龐大的內存等硬件資源，適用性較低；且由于通用詞向量龐大，訓練過程不穩定，很難達到理想效果。

發明內容

基于上述現有技術中存在的問題，本發明提供一種特定領域的詞向量增量方法、裝置及計算機可讀存儲介質，其主要目的在于，通過將通用語料詞向量空間與特定領域內的詞向量空間進行空間融合，得到融合的詞向量空間，從而達到特定領域的詞向量增量的目的，能夠解決現有技術中，由于通用詞向量太過于龐大，在此基礎上繼續訓練需要龐大的內存等硬件資源，適用性較低；且由于通用詞向量龐大，訓練過程不穩定，難以達到理想效果等問題。

第一方面，為實現上述目的，本發明提供一種特定領域的詞向量增量方法，該方法包括：

收集特定領域的語料；

將所述特定領域的語料與所述特定領域的預設詞向量對照表比對，得到所述特定領域的詞向量空間；

根據預設詞向量空間融合規則，將所述特定領域的詞向量空間與預先獲取的通用語料詞向量空間進行融合處理，將得到的融合的詞向量空間中的詞向量作為所述特定領域增量后的詞向量。

第二方面，為實現上述目的，本發明還提供一種電子裝置，該電子裝置包括：存儲器、處理器，所述存儲器中存儲有特定領域的詞向量增量程序，所述特定領域的詞向量增量程序被所述處理器執行時實現如下步驟：

收集特定領域的語料；

將所述特定領域的語料與所述特定領域的預設詞向量對照表比對，得到所述特定領域的詞向量空間；

根據預設詞向量空間融合規則，將所述特定領域的詞向量空間與預先獲取的通用語料詞向量空間進行融合處理，將得到的融合的詞向量空間中的詞向量作為所述特定領域增量后的詞向量。

第三方面，為實現上述目的，本發明還提供一種計算機可讀存儲介質，所述計算機可讀存儲介質中存儲有特定領域的詞向量增量程序，所述特定領域的詞向量增量程序被處理器執行時，實現如上所述的特定領域的詞向量增量方法中的任意步驟。