[發(fā)明專利]一種基于字符標(biāo)簽的文本分類方法及裝置

在審

• 申請?zhí)枺?/td>: 202211423213.6
• 申請日: 2022-11-15
• 公開（公告）號: CN115795032A
• 公開（公告）日: 2023-03-14
• 發(fā)明（設(shè)計(jì)）人: 孟靖祥
• 申請（專利權(quán)）人: 中國工商銀行股份有限公司
• 主分類號: G06F16/35
• 分類號: G06F16/35;G06F18/241;G06F18/22
• 代理公司: 北京三友知識(shí)產(chǎn)權(quán)代理有限公司 11127
• 代理人: 劉飛;黨曉林

1.一種基于字符標(biāo)簽的文本分類方法，其特征在于，所述方法包括：

獲取文本的字符序列及預(yù)定義的標(biāo)簽序列；

根據(jù)所述字符序列的向量表示、所述標(biāo)簽序列的向量表示，確定所述字符序列中各字符的重要度，所述重要度為各字符對于所述標(biāo)簽序列中所有標(biāo)簽的重要度；

將所述字符序列中的字符輸入至預(yù)先建立的文本分類模型中，輸出得到字符預(yù)測標(biāo)簽；

根據(jù)所述字符的重要度及所述字符預(yù)測標(biāo)簽，確定文本預(yù)測標(biāo)簽；

根據(jù)所述文本預(yù)測標(biāo)簽與所述預(yù)定義的標(biāo)簽序列中各標(biāo)簽的相似度，確定文本最終標(biāo)簽。

2.根據(jù)權(quán)利要求1所述的基于字符標(biāo)簽的文本分類方法，其特征在于，所述確定所述字符序列中各字符的重要度包括：

根據(jù)所述字符序列中的各字符與所述標(biāo)簽序列中的所有標(biāo)簽的相似度，確定各字符對于所有標(biāo)簽的重要度，所述各字符對于所有標(biāo)簽的重要度為絕對重要度。

3.根據(jù)權(quán)利要求2所述的基于字符標(biāo)簽的文本分類方法，其特征在于，所述確定所述字符序列中各字符的重要度還包括：

根據(jù)所述絕對重要度，確定文本的字符序列中所有字符的絕對重要度之和；

根據(jù)所述絕對重要度及所有字符的絕對重要度之和的比值，確定各字符對于所有標(biāo)簽的重要度。

4.根據(jù)權(quán)利要求3所述的基于字符標(biāo)簽的文本分類方法，其特征在于，所述文本分類模型的構(gòu)建過程方法包括：

獲取預(yù)先構(gòu)建的標(biāo)簽?zāi)Ｐ椭械哪Ｐ蛥?shù)；

利用非線性激活函數(shù)及標(biāo)簽預(yù)測模型中模型的參數(shù)，確定文本分類模型。

5.根據(jù)權(quán)利要求4所述的基于字符標(biāo)簽的文本分類方法，其特征在于，所述標(biāo)簽預(yù)測模型的訓(xùn)練過程包括：

獲取訓(xùn)練樣本數(shù)據(jù)，所述訓(xùn)練樣本數(shù)據(jù)包括字符序列樣本及預(yù)定義的標(biāo)簽序列樣本；

利用參數(shù)矩陣，將所述字符序列樣本及所述標(biāo)簽序列樣本的維度投影到高緯空間，得到字符序列樣本中各字符樣本的高緯向量及標(biāo)簽序列樣本中各標(biāo)簽樣本的高緯向量；

構(gòu)建初始標(biāo)簽預(yù)測模型，所述初始標(biāo)簽預(yù)測模型由如下公式表示：p_ij＝sigmoid([h′_ib′_j]))，其中，p_ij表示初始預(yù)測得到的標(biāo)簽，h_i′表示第i個(gè)字符樣本的高緯向量，b_j′表示第j個(gè)標(biāo)簽樣本的高緯向量；

構(gòu)建初始標(biāo)簽預(yù)測模型的損失函數(shù)；

根據(jù)所述訓(xùn)練樣本數(shù)據(jù)輸入至所述初始標(biāo)簽預(yù)測模型得到的輸出及所述損失函數(shù)，訓(xùn)練所述初始標(biāo)簽預(yù)測模型，得到所述標(biāo)簽預(yù)測模型。

6.根據(jù)權(quán)利要求5所述的基于字符標(biāo)簽的文本分類方法，其特征在于，所述根據(jù)所述字符的重要度及所述字符預(yù)測標(biāo)簽，確定文本預(yù)測標(biāo)簽包括：

確定各字符的重要度與字符預(yù)測標(biāo)簽的乘積；

確定字符序列中所有字符的重要度與字符預(yù)測標(biāo)簽的乘積之和，作為文本預(yù)測標(biāo)簽。

7.根據(jù)權(quán)利要求6所述的基于字符標(biāo)簽的文本分類方法，其特征在于，所述確定文本最終標(biāo)簽包括：

分別計(jì)算所述文本預(yù)測標(biāo)簽與所述標(biāo)簽序列中各標(biāo)簽的相似度；

將相似度按照從大到小的順序依次排序；

選擇排序靠前的預(yù)設(shè)數(shù)量的相似度對應(yīng)的標(biāo)簽，作為文本最終標(biāo)簽。

8.一種基于字符標(biāo)簽的文本分類裝置，其特征在于，所述裝置包括：

序列獲取單元，用于獲取文本的字符序列及預(yù)定義的標(biāo)簽序列；

重要度確定單元，用于根據(jù)所述字符序列的向量表示、所述標(biāo)簽序列的向量表示，確定所述字符序列中每一字符的重要度，所述重要度為每一字符對于所述標(biāo)簽序列中所有標(biāo)簽的重要度；

字符預(yù)測標(biāo)簽確定單元，用于將所述字符序列中的字符輸入至預(yù)先建立的文本分類模型中，輸出得到所述字符預(yù)測標(biāo)簽；

文本預(yù)測標(biāo)簽確定單元，用于根據(jù)所述字符的重要度及所述字符預(yù)測標(biāo)簽，確定文本預(yù)測標(biāo)簽；

文本最終標(biāo)簽確定單元，用于根據(jù)所述文本預(yù)測標(biāo)簽與所述預(yù)定義的標(biāo)簽序列中各標(biāo)簽的相似度，確定文本最終標(biāo)簽。