[發明專利]一種語義分類方法及裝置

在審

• 申請號: 202210412719.0
• 申請日: 2022-04-19
• 公開（公告）號: CN114722833A
• 公開（公告）日: 2022-07-08
• 發明（設計）人: 馮鈴;王鑫
• 申請（專利權）人: 清華大學
• 主分類號: G06F40/30
• 分類號: G06F40/30;G06F16/35
• 代理公司: 北京路浩知識產權代理有限公司 11002
• 代理人: 吳勇濤

1.一種語義分類方法，其特征在于，包括：

獲取待分類文本數據；

將所述待分類文本數據輸入至語義分類模型，基于所述待分類文本數據的詞嵌入和依賴樹對所述待分類文本數據進行語義理解，并基于語義理解結果進行分類，獲得所述語義分類模型輸出的分類結果；

其中，所述語義分類模型是基于文本樣本以及所述文本樣本對應的類別標簽進行訓練后得到的，每個所述類別標簽是根據所述文本樣本預先確定的，并與所述文本樣本一一對應。

2.根據權利要求1所述的語義分類方法，其特征在于，所述語義分類模型包括：編碼模塊和關系模塊；

所述將所述待分類文本數據輸入至語義分類模型，基于所述待分類文本數據的詞嵌入和依賴樹對所述待分類文本數據進行語義理解，并基于語義理解結果進行分類，獲得所述語義分類模型輸出的分類結果，包括：

將所述待分類文本數據輸入至所述編碼模塊，基于所述待分類文本數據的詞嵌入和依賴樹對所述待分類文本數據進行語義理解，獲得所述編碼模塊輸出的待分類向量；

將所述待分類向量輸入至所述關系模塊，獲得所述關系模塊輸出的分類結果。

3.根據權利要求2所述的語義分類方法，其特征在于，所述編碼模塊包括BERT單元、依賴樹單元、構造單元、依賴圖單元和注意力單元；

所述將所述待分類文本數據輸入至所述編碼模塊，基于所述待分類文本數據的詞嵌入和依賴樹對所述待分類文本數據進行語義理解，獲得所述編碼模塊輸出的待分類向量，包括：

將所述待分類文本數據輸入至所述BERT單元，獲得所述BERT單元輸出的詞嵌入向量集；

將所述待分類文本數據輸入至所述依賴樹單元，獲得所述依賴樹單元輸出的依賴樹；

將所述依賴樹和所述詞嵌入向量集輸入至所述構造單元，獲得所述構造單元輸出的依賴圖；

將所述依賴圖輸入至所述依賴圖單元，獲取所述依賴圖單元輸出的第一待分類矩陣；

將所述第一待分類矩陣輸入至所述注意力單元，獲得所述注意力單元輸出的第一待分類向量。

4.根據權利要求3所述的語義分類方法，其特征在于，所述將所述依賴樹和所述詞嵌入向量集輸入至所述構造單元，獲得所述構造單元輸出的依賴圖，包括：

基于所述詞嵌入向量集確定所述依賴圖的節點；

基于所述依賴樹和鄰接矩陣確定每個所述節點之間的鄰接關系；

所述鄰接矩陣為：

其中，A_i,j表示第i個節點與第j個節點之間的連接關系，i為大于等于1的正整數，j為大于等于1的正整數，T(W_i，W_j)表示第i個節點W_i與第j個節點W_j之間存在關系。

5.根據權利要求4所述的語義分類方法，其特征在于，所述依賴圖單元包括至少一級隱含層；每級所述隱含層的輸出公式如下：

其中，H^I表示第I級隱含層的隱藏表示，ReLU表示ReLU激活函數，表示歸一化后的鄰接矩陣，A表示鄰接矩陣，D表示A的度，W^I表示訓練參數，b^I表示訓練參數。

6.根據權利要求3所述的語義分類方法，其特征在于，所述編碼模塊還包括圖片單元和連接單元；

所述方法還包括：

獲取與所述待分類文本數據對應的待分類圖片數據；

將所述待分類圖片數據輸入至所述圖片單元，獲得所述圖片單元輸出的第二待分類矩陣；

將所述第一待分類矩陣和所述第二待分類矩陣拼接，獲得第三待分類矩陣；

將所述第三待分類矩陣輸入至所述注意力單元，獲得所述注意力單元輸出的第二待分類向量。