[發明專利]文本處理方法、裝置、設備及計算機可讀存儲介質

在審

• 申請號: 202210033962.1
• 申請日: 2022-01-12
• 公開（公告）號: CN116467405A
• 公開（公告）日: 2023-07-21
• 發明（設計）人: 曾雙;劉康龍;荊寧;梁海金
• 申請（專利權）人: 騰訊科技（深圳）有限公司
• 主分類號: G06F16/33
• 分類號: G06F16/33;G06F16/35;G06F40/284
• 代理公司: 北京派特恩知識產權代理有限公司 11270
• 代理人: 彭奇;吳素花

1.一種文本處理方法，其特征在于，所述方法包括：

對待處理文本進行第一類型詞識別，得到至少一個第一類型詞；

針對于每一所述第一類型詞，對所述第一類型詞和所述待處理文本進行編碼處理，得到對應于所述第一類型詞和所述待處理文本的文本詞向量；其中，所述待處理文本包括至少兩個分詞；

對所述文本詞向量進行上下位關系解碼處理，得到所述至少兩個分詞中的每一分詞與所述第一類型詞具有上下位關系的置信度；

根據所述置信度，從所述至少兩個分詞中確定出與每一所述第一類型詞對應的第二類型詞；

將所述第一類型詞與所述第二類型詞進行關聯，得到對應于所述待處理文本的至少一個上下位詞對。

2.根據權利要求1所述的方法，其特征在于，所述對所述第一類型詞和所述待處理文本進行編碼處理，得到對應于所述第一類型詞和所述待處理文本的文本詞向量，包括：

通過編碼器對所述第一類型詞進行特征提取，得到對應于所述第一類型詞的第一詞向量；

對所述待處理文本進行分詞處理，得到所述至少兩個分詞；

通過所述編碼器對每一所述分詞進行特征提取，得到與每一所述分詞對應的第二詞向量；其中，所述至少兩個分詞對應的全部第二詞向量構成所述待處理文本的文本向量，所述第一詞向量和所述文本向量構成所述文本詞向量。

3.根據權利要求2所述的方法，其特征在于，所述對所述文本詞向量進行上下位關系解碼處理，得到所述至少兩個分詞中的每一分詞與所述第一類型詞具有上下位關系的置信度，包括：

通過解碼器中的線性層，基于所述第一詞向量對每一所述分詞對應的第二向量進行二分類映射，得到每一所述分詞的第二詞向量的二分類結果；

對所述二分類結果進行所述解碼處理，得到所述至少兩個分詞中的每一分詞與所述第一類型詞具有所述上下位關系的置信度。

4.根據權利要求3所述的方法，其特征在于，

當所述第一類型詞為下位實體詞時，所述第二類型詞為上位概念詞；

當所述第一類型詞為上位概念詞時，所述第二類型詞為下位實體詞；

所述二分類結果用于表征所述分詞屬于所述第一類型詞的上位概念詞的一部分，或者，所述二分類結果用于表征所述分詞屬于所述第一類型詞的下位實體詞的一部分。

5.根據權利要求1所述的方法，其特征在于，所述根據所述置信度，從所述至少兩個分詞中確定出與每一所述第一類型詞對應的第二類型詞，包括以下方式中的至少之一：

將所述置信度大于置信度閾值的分詞，確定為所述第二類型詞；

以及，

當所述置信度大于置信度閾值的多個分詞在所述待處理文本中的位置連續時，將連續的所述多個分詞對應的文本片段確定為所述第二類型詞。

6.根據權利要求1所述的方法，其特征在于，所述對所述第一類型詞和所述待處理文本進行編碼處理，得到對應于所述第一類型詞和所述待處理文本的文本詞向量，包括：

對所述第一類型詞和所述待處理文本進行拼接，形成拼接文本；

將所述拼接文本輸入至預先訓練的MRC模型中，

通過所述MRC模型的編碼模塊，對所述拼接文本進行編碼處理，得到對應于所述第一類型詞和所述待處理文本的文本詞向量；

其中，所述MRC模型是采用基于全詞遮掩的樣本詞生成方式生成的樣本詞進行訓練得到的。

7.根據權利要求6所述的方法，其特征在于，所述MRC模型包括第一解碼模塊；

所述對所述文本詞向量進行上下位關系解碼處理，得到所述至少兩個分詞中的每一分詞與所述第一類型詞具有上下位關系的置信度，包括：

通過所述第一解碼模塊，基于預先訓練得到的第一解碼參數對所述文本詞向量進行上下位關系解碼處理，得到所述至少兩個分詞中的每一分詞與所述第一類型詞具有所述上下位關系的置信度。