[發(fā)明專(zhuān)利]一種基于低維球面投影的文本分類(lèi)方法

在審

• 申請(qǐng)?zhí)枺?/td>: 202011301471.8
• 申請(qǐng)日: 2020-11-19
• 公開(kāi)（公告）號(hào): CN112528016A
• 公開(kāi)（公告）日: 2021-03-19
• 發(fā)明（設(shè)計(jì)）人: 彭德光;孫健;黃攀;湯斌;易興
• 申請(qǐng)（專(zhuān)利權(quán)）人: 重慶兆光科技股份有限公司
• 主分類(lèi)號(hào): G06F16/35
• 分類(lèi)號(hào): G06F16/35;G06K9/62
• 代理公司: 重慶渝之知識(shí)產(chǎn)權(quán)代理有限公司 50249
• 代理人: 陸蕾

1.一種基于低維球面投影的文本分類(lèi)方法，其特征在于，包括：

構(gòu)建文本向量與低維球面的投影關(guān)系，將輸入的文本向量投影到所述低維球面中，獲取所述文本向量的球面表示；

將所述球面表示輸入文本分類(lèi)模型，獲取輸入文本的球面語(yǔ)義表示。

2.根據(jù)權(quán)利要求1所述的基于低維球面投影的文本分類(lèi)方法，其特征在于，構(gòu)建文本向量與低維球面的投影關(guān)系，包括：

設(shè)置所述低維球面的維度，獲取所述文本向量的每一維數(shù)據(jù)在所述低維球面各維度的分量表示；

根據(jù)所述分量表示獲取每一維數(shù)據(jù)的投影角度，將所述文本向量的球面表示。

3.根據(jù)權(quán)利要求2所述的基于低維球面投影的文本分類(lèi)方法，其特征在于，所述分量表示記為：

y₁＝rcosθ₁，y₂＝rsinθ₁cosθ₂，y₃＝rsinθ₁sinθ₂cosθ₃

…

y_L-₁＝rsinθ₁sinθ₂...sinθ_L-2cosθ_L-1，y_L＝rsinθ₁sinθ₂...sinθ_L-1sinθ_L

其中，r＝|y|，y＝(y，...，y_L)∈R^L，L為所述低維球面的維度；y＝As；A為投影參數(shù)，s為文本向量。

4.根據(jù)權(quán)利要求2所述的基于低維球面投影的文本分類(lèi)方法，其特征在于，所述投影角度表示為：

P_b(s)＝angle(As)，A∈R^L×n

其中，angle為求角度函數(shù)，L為所述低維球面的維度，n為所述文本向量的維度；s為文本向量，A為投影參數(shù)。

5.根據(jù)權(quán)利要求1所述的基于低維球面投影的文本分類(lèi)方法，其特征在于，將所述球面表示輸入文本分類(lèi)模型，獲取輸入文本的球面語(yǔ)義表示，包括：

通過(guò)所述文本分類(lèi)模型的線(xiàn)性變換矩陣對(duì)所述球面表示進(jìn)行線(xiàn)性變換后，通過(guò)softmax獲取類(lèi)別輸出作為所述球面語(yǔ)義表示。

6.根據(jù)權(quán)利要求5所述的基于低維球面投影的文本分類(lèi)方法，其特征在于，所述類(lèi)別輸出的計(jì)算方式為：

p＝soitmax(BP_b(s))＝softmax(B angle(As))

其中，B為線(xiàn)性變換矩陣；|B|≤c_b，|A|≤c_a。

7.根據(jù)權(quán)利要求2至6任一所述的基于低維球面投影的文本分類(lèi)方法，其特征在于，在所述文本分類(lèi)模型訓(xùn)練階段，根據(jù)所述投影角度構(gòu)建代價(jià)函數(shù)；

根據(jù)所述代價(jià)函數(shù)采用梯度下降更新所述投影參數(shù)和所述線(xiàn)性變換矩陣。

8.根據(jù)權(quán)利要求7所述的基于低維球面投影的文本分類(lèi)方法，其特征在于，所述代價(jià)函數(shù)表示為：

其中，t_k為第k樣本的類(lèi)別輸出向量，p_k為第k樣本的類(lèi)別輸出。

9.根據(jù)權(quán)利要求7所述的基于低維球面投影的文本分類(lèi)方法，其特征在于，根據(jù)訓(xùn)練得到的投影參數(shù)，確定低維球面的投影關(guān)系；

將多個(gè)文本對(duì)應(yīng)的文本向量分別輸入所述低維球面，分別獲取每個(gè)文本向量對(duì)應(yīng)的球面表示；

根據(jù)所述球面表示的投影夾角或角度差的模長(zhǎng)度量文本間的相似度。

10.根據(jù)權(quán)利要求9所述的基于低維球面投影的文本分類(lèi)方法，其特征在于，所述相似度度量方式表示為：

similarity＝||P_b(s₁)-P_b(s₂)||₁

其中，s₁和s₂分別表示兩個(gè)不同的文本向量。