[發明專利]一種對未登錄詞生成仿真詞向量的方法及裝置

有效

• 申請號: 201711402565.2
• 申請日: 2017-12-22
• 公開（公告）號: CN108038105B
• 公開（公告）日: 2020-06-05
• 發明（設計）人: 蔣宏飛;李健銓;晉耀紅;楊凱程
• 申請（專利權）人: 中科鼎富（北京）科技發展有限公司
• 主分類號: G06F16/332
• 分類號: G06F16/332;G06F40/30;G06F40/289;G06F40/253
• 代理公司: 北京弘權知識產權代理事務所(普通合伙) 11363
• 代理人: 逯長明;許偉群

1.一種對未登錄詞生成仿真詞向量的方法，其特征在于，所述方法包括：

從已知的詞向量空間中，獲取未登錄詞的n元語法分詞在詞向量空間中的子集；所述子集為非空集或空集，當所述子集為非空集時，所述子集包含所述未登錄詞的至少一個n元語法分詞；

當所述子集為非空集時，根據所述子集中n元語法分詞的詞向量，生成子集向量；

獲取所述未登錄詞的完全隨機向量；

當所述子集為非空集時，將所述子集向量和所述未登錄詞的完全隨機向量進行加權求和，生成所述未登錄詞的仿真詞向量；

當所述子集為空集時，將所述未登錄詞的完全隨機向量作為所述仿真詞向量。

2.根據權利要求1所述的方法，其特征在于，所述從已知的詞向量空間中，獲取未登錄詞的n元語法分詞在詞向量空間中的子集的步驟包括：

步驟S111，獲取所述未登錄詞的字符長度L；

步驟S112，獲取所述未登錄詞的所有L-M元語法分詞，M初始值為1，且L-M≥1；

步驟S113，查找所述L-M元語法分詞在詞向量空間中是否存在；

如果存在，跳轉至步驟S114；

如果不存在，且L-M＞1，則將M的當前值加1，跳轉至步驟S112；

如果不存在，且L-M＝1，則所述子集為空集；

步驟S114，對所有存在于詞向量空間中的所述L-M元語法分詞生成所述子集。

3.根據權利要求2所述的方法，其特征在于，所述當所述子集為非空集時，根據所述子集中n元語法分詞的詞向量，生成子集向量的步驟包括：

獲取所述子集中n元語法分詞的數量k；

當k＝1時，將所述子集中唯一的n元語法分詞的詞向量作為所述子集向量；

當k≥1時，所述子集向量為所述子集中k個n元語法分詞的幾何中心向量，所述幾何中心向量根據以下公式計算得出：

其中，V為所述幾何中心向量，V1～Vk為所述子集中k個n元語法分詞的詞向量。

4.根據權利要求1所述的方法，其特征在于，所述從已知的詞向量空間中，獲取未登錄詞的n元語法分詞在詞向量空間中的子集的步驟包括：

步驟S116，獲取所述未登錄詞的字符長度L；

步驟S117，獲取所述未登錄詞的所有字符連續的L-M元語法分詞，M初始值為1，且L-M≥1；

步驟S118，逐一查找已獲取的所述L-M元語法分詞在詞向量空間中是否存在；

如果找到一個所述L-M元語法分詞在詞向量空間中存在，停止查找剩余的所述L-M元語法分詞，執行步驟S119；

如果不存在，且L-M＞1，則將M的當前值加1，跳轉至步驟S117；

如果不存在，且L-M＝1，則所述子集為空集；

步驟S119，對查找到的一個存在于詞向量空間中的所述L-M元語法分詞，生成所述子集。

5.根據權利要求4所述的方法，其特征在于，所述當所述子集為非空集時，根據所述子集中n元語法分詞的詞向量，生成子集向量的步驟包括：

將所述子集中唯一的所述n元語法分詞的詞向量作為所述子集向量。

6.根據權利要求1所述的方法，其特征在于，所述將所述子集向量和所述未登錄詞的完全隨機向量進行加權求和，生成所述未登錄詞的仿真詞向量的步驟，使用以下公式：

Y＝Vrd×C1+V×C2

其中，Y為未登錄詞的仿真詞向量，Vrd為未登錄詞的完全隨機向量，V為子集向量，C1和C2為加權系數，且C1+C2＝1，C2＞C1。

7.根據權利要求1所述的方法，其特征在于，所述獲取未登錄詞的完全隨機向量的步驟包括：

獲取完全隨機向量預設的維度T；

在T個維度上隨機賦予[-1，1]之間的任意數值，生成一個T維的向量X；

對向量X進行歸一化處理，生成所述未登錄詞完全隨機向量。