[發明專利]特定領域的詞向量增量方法、裝置及存儲介質

有效

• 申請號: 202010950721.4
• 申請日: 2020-09-11
• 公開（公告）號: CN111814473B
• 公開（公告）日: 2020-12-22
• 發明（設計）人: 陳慶偉
• 申請（專利權）人: 平安國際智慧城市科技股份有限公司
• 主分類號: G06F40/289
• 分類號: G06F40/289;G06N3/04;G06N3/08
• 代理公司: 北京鴻元知識產權代理有限公司 11327
• 代理人: 袁文婷;張娓娓

1.一種特定領域的詞向量增量方法，應用于電子裝置，其特征在于，所述方法包括：

收集特定領域的語料；

將所述特定領域的語料與所述特定領域的預設詞向量對照表比對，得到所述特定領域的詞向量空間；

根據預設詞向量空間融合規則，將所述特定領域的詞向量空間與預先獲取的通用語料詞向量空間進行融合處理，將得到的融合的詞向量空間中的詞向量作為所述特定領域增量后的詞向量；其中，

根據預設詞向量空間融合規則，將所述特定領域的詞向量空間與預先獲取的通用語料詞向量空間進行融合處理包括：

獲取所述特定領域的詞向量空間與所述預先獲取的通用語料詞向量空間共同的詞向量；

根據所述共同的詞向量，訓練映射網絡模型；

通過所述映射網絡模型，將所述預先獲取的通用語料詞向量空間與所述特定領域的詞向量空間中不同的詞向量融合，形成融合的詞向量空間；

兩個領域內非公共詞匯需要通過映射網絡模型進行融合；其中，

通過所述映射網絡模型，將所述預先獲取的通用語料詞向量空間與所述特定領域的詞向量空間中不同的詞向量融合，形成融合的詞向量空間包括：

所述特定領域的詞向量空間A包括以下詞向量【W_a1, W_a2, W_a3, W_a4, W_a5, W_a6, W_ab1, W_ab2】，所述通用語料詞向量空間B括以下詞向量【W_b1, W_b2, W_b3, W_ab1, W_ab2】；

通過f(Embedding_B(W_ab1)) - Embedding_A(W_ab1)訓練出映射函數f(x)；

將所述映射函數f(x)作為映射網絡模型，并通過所述映射函數f(x)將所述通用語料詞向量空間B內的詞向量映射到所述特定領域的詞向量空間A內，形成融合的詞向量空間f(w_b)。

2.根據權利要求1所述的特定領域的詞向量增量方法，其特征在于，所述預設詞向量對照表存儲于區塊鏈中，在將所述特定領域的語料與所述特定領域的預設詞向量對照表比對，得到所述特定領域的詞向量空間之前，還包括：

對所述特定領域的語料樣本進行分詞處理，得到語料分詞；

根據預設的分詞劃分規則，將所述語料分詞分為聚焦分詞、上文語境詞和下文語境詞；

分別通過CBOW模型和Skip-gram模型對所述聚焦分詞、所述上文語境詞和所述下文語境詞進行詞向量訓練，得到特定領域詞向量；

將所述特定領域詞向量加載至預設表格中，得到所述特定領域的預設詞向量對照表。

3.根據權利要求2所述的特定領域的詞向量增量方法，其特征在于，通過所述CBOW模型對所述聚焦分詞、所述上文語境詞和所述下文語境詞進行詞向量訓練包括：

將所述上文語境詞的對應詞向量和所述下文語境詞的對應詞向量輸入所述CBOW模型的輸入層，并將與所述上文語境詞和所述下文語境詞之間存在映射關系的聚焦詞語作為所述CBOW模型的隱藏層；

通過激勵函數計算出準確率最高的語料分詞中的上文語境詞的對應詞向量和下文語境詞的對應詞向量并由所述CBOW模型的輸出層輸出。

4.根據權利要求3所述的特定領域的詞向量增量方法，其特征在于，通過所述Skip-gram模型對所述聚焦分詞、所述上文語境詞和所述下文語境詞進行詞向量訓練包括：

將所述聚焦詞語的對應詞向量輸入所述Skip-gram模型的輸入層，并將與所述聚焦詞語之間存在映射關系的上文語境詞和下文語境詞作為所述CBOW模型的隱藏層；

通過激勵函數計算出準確率最高的語料分詞中的聚焦詞語的對應詞向量并由所述CBOW模型的輸出層輸出。

5.根據權利要求1所述的特定領域的詞向量增量方法，其特征在于，將所述特定領域的語料與所述特定領域的預設詞向量對照表比對，得到所述特定領域的詞向量空間，包括：

將所述特定領域的語料進行分詞處理，得到特定語料分詞；

將所述特定語料分詞與所述特定領域的預設詞向量對照表比對，從所述特定領域的預設詞向量對照表中，獲取與所述特定語料分詞相對應的特定領域詞向量；

將所有的特定領域詞向量組成特定領域的詞向量空間。