[發明專利]一種利用關鍵詞對樣本進行增強的方法、系統和電子設備

在審

• 申請號: 202310416308.3
• 申請日: 2023-04-18
• 公開（公告）號: CN116521824A
• 公開（公告）日: 2023-08-01
• 發明（設計）人: 常方舒;李田
• 申請（專利權）人: 北京數美時代科技有限公司;數美天下（北京）科技有限公司
• 主分類號: G06F16/33
• 分類號: G06F16/33;G06F16/35;G06F40/126;G06N3/0499;G06N3/08
• 代理公司: 北京輕創知識產權代理有限公司 11212
• 代理人: 賴定珍

1.一種利用關鍵詞對樣本進行增強的方法，其特征在于，包括：

將待增強樣本拼音化，得到所述待增強樣本的拼音序列；

將所述待增強樣本的拼音序列與拼音關鍵詞詞表進行匹配，得到命中關鍵詞列表；

使用bert模型中的embedding層獲取所述待增強樣本對應的第一向量，使用bert模型中embedding層獲取所述命中關鍵詞列表對應的第二向量；

將所述第二向量和所述第二向量進行拼接，得到第三向量；

將所述第三向量輸入到bert模型的transformer編碼器層，得到用于分類的隱藏狀態的cls向量。

2.根據權利要求1所述的一種利用關鍵詞對樣本進行增強的方法，其特征在于，所述拼音關鍵詞詞表的獲取過程包括：

將關鍵詞列表中的每個關鍵詞拼音化并去重，得到所述拼音關鍵詞詞表。

3.根據權利要求1所述的一種利用關鍵詞對樣本進行增強的方法，其特征在于，將待增強樣本拼音化，得到所述待增強樣本的拼音序列，包括：

使用pypinyin工具，將所述待增強樣本拼音化，得到所述待增強樣本的拼音序列。

4.根據權利要求1至3任一項所述的一種利用關鍵詞對樣本進行增強的方法，其特征在于，bert模型包括12個依次設置的transformer編碼器層，將所述第三向量輸入到bert模型的transformer編碼器層，得到用于分類的隱藏狀態的cls向量，包括：

將所述第三向量依次通過bert模型的12個transformer編碼器層后，得到用于分類的隱藏狀態的cls向量。

5.一種利用關鍵詞對樣本進行增強的系統，其特征在于，包括拼音化模塊、匹配模塊、向量表示模塊、拼接模塊和輸入獲取模塊；

所述拼音化模塊用于：將待增強樣本拼音化，得到所述待增強樣本的拼音序列；

所述匹配模塊用于：將所述待增強樣本的拼音序列與拼音關鍵詞詞表進行匹配，得到命中關鍵詞列表；

所述向量表示模塊用于：使用bert模型中的embedding層獲取所述待增強樣本對應的第一向量，使用bert模型中embedding層獲取所述命中關鍵詞列表對應的第二向量；

所述拼接模塊用于：將所述第二向量和所述第二向量進行拼接，得到第三向量；

所述輸入獲取模塊用于：將所述第三向量輸入到bert模型的transformer編碼器層，得到用于分類的隱藏狀態的cls向量。

6.根據權利要求5所述的一種利用關鍵詞對樣本進行增強的系統，其特征在于，還包括獲取模塊，所述獲取模塊用于：

將關鍵詞列表中的每個關鍵詞拼音化并去重，得到所述拼音關鍵詞詞表。

7.根據權利要求5所述的一種利用關鍵詞對樣本進行增強的系統，其特征在于，所述拼音化模塊用于：

使用pypinyin工具，將所述待增強樣本拼音化，得到所述待增強樣本的拼音序列。

8.根據權利要求5至7任一項所述的一種利用關鍵詞對樣本進行增強的系統，其特征在于，bert模型包括12個依次設置的transformer編碼器層，所述輸入獲取模塊具體用于：

將所述第三向量依次通過bert模型的12個transformer編碼器層后，得到用于分類的隱藏狀態的cls向量。

9.一種存儲介質，其特征在于，所述存儲介質中存儲有指令，當計算機讀取所述指令時，使所述計算機執行如權利要求1至4中任一項所述的一種利用關鍵詞對樣本進行增強的方法。

10.一種電子設備，其特征在于，包括處理器和權利要求9所述的存儲介質，所述處理器執行所述存儲介質中的指令。