[發(fā)明專利]一種訓練數(shù)據(jù)的方法、裝置及存儲介質(zhì)

有效

• 申請?zhí)枺?/td>: 201711269292.9
• 申請日: 2017-12-05
• 公開（公告）號: CN110019648B
• 公開（公告）日: 2021-02-02
• 發(fā)明（設計）人: 李瀟;鄭孫聰
• 申請（專利權）人: 深圳市騰訊計算機系統(tǒng)有限公司
• 主分類號: G06F16/31
• 分類號: G06F16/31;G06F16/35;G06F40/295;G06N3/04;G06N3/08;G06K9/62
• 代理公司: 深圳市深佳知識產(chǎn)權代理事務所(普通合伙) 44285
• 代理人: 王仲凱

1.一種訓練數(shù)據(jù)的方法，其特征在于，所述方法包括：

獲取待處理的語料集合；

從所述語料集合中提取實體集合，所述實體集合包括多個命名的實體；

從所述實體集合中提取候選上位詞集合；

將所述實體集合中的實體分別與所述候選上位詞集合中的各上位詞組合，得到候選對集合，所述候選對集合包括多個候選對，所述候選對是指具備關聯(lián)關系的實體與上位詞的組合；

將候選對、每個與候選對關聯(lián)的語句分別構造為一份預測數(shù)據(jù)，以及對預測數(shù)據(jù)中與候選對關聯(lián)的語句進行泛化處理，以得到用所述候選對和泛化語句表示的所述預測數(shù)據(jù)；

對各候選對所關聯(lián)的語句分別進行分詞處理，得到詞語集合；

對所述詞語集合中的各詞語輸入泛化處理層進行轉(zhuǎn)換，得到向量集合；

根據(jù)所述預測數(shù)據(jù)和長短期記憶人工神經(jīng)網(wǎng)絡LSTM對所述向量集合進行訓練和預測。

2.根據(jù)權利要求1所述的方法，其特征在于，所述泛化處理層包括字符層和哈希hash層，所述對所述詞語集合中的各詞語輸入泛化處理層進行轉(zhuǎn)換，得到轉(zhuǎn)換后的所述詞語集合，包括：

將所述詞語集合中的各詞語分別輸入所述字符層，在所述字符層將輸入所述字符層的詞語分別轉(zhuǎn)換為詞語向量，得到詞語向量集合；

將所述詞語集合中的各詞語分別輸入所述hash層，在所述hash層將輸入所述hash層的詞語分別轉(zhuǎn)換為hash向量，得到hash向量集合；

根據(jù)所述詞語向量集合和所述hash向量集合得到所述向量集合。

3.根據(jù)權利要求2所述的方法，其特征在于，所述詞語集合包括N個詞語，所述將所述詞語集合中的各詞語分別輸入所述字符層，在所述字符層將輸入所述字符層的詞語分別轉(zhuǎn)換為詞語向量，得到所述詞語向量集合，包括：

對第一詞語與字符查找表中的字符進行匹配，得到n個字符對應的n個向量，根據(jù)雙相LSTM將所述n個向量與所述第一詞語，生成詞語向量，所述第一詞語是指所述詞語集合中待訓練和預測的詞語。

4.根據(jù)權利要求2或3所述的方法，其特征在于，所述將所述詞語集合中的各詞語分別輸入所述hash層，在所述hash層將輸入所述hash層的詞語分別轉(zhuǎn)換為hash向量，得到hash向量集合，包括：

使用哈希hash函數(shù)將N個詞語分別映射到K個hash桶中，分別在每個hash桶中對所述N個詞語進行壓縮，得到K個hash向量，每個hash向量對應所述N個詞語，其中N和K均為正整數(shù)，N＞K。

5.根據(jù)權利要求4所述的方法，其特征在于，所述根據(jù)所述詞語向量集合和所述hash向量集合得到所述向量集合，包括：

將所述詞語向量和所述K個hash向量拼接，得到所述向量集合。

6.根據(jù)權利要求5所述的方法，其特征在于，所述對所述詞語集合中的各詞語輸入泛化處理層進行轉(zhuǎn)換，得到向量集合后，所述語料集合中的第一語句對應得到一個第一矩陣，所述第一矩陣根據(jù)所述第一語句分詞后對應的詞語數(shù)量、經(jīng)由所述字符層泛化處理后輸出的向量維度、以及經(jīng)由hash層泛化處理時所設置的向量維度得到；

所述候選對集合中的第一候選對對應得到一個第二矩陣，所述第二矩陣根據(jù)所述候選對分詞后對應的詞語數(shù)量、經(jīng)由所述字符層泛化處理后輸出的向量維度、以及經(jīng)由hash層泛化處理時所設置的向量維度得到。