[發明專利]一種語義模型優化方法、裝置及智能設備、存儲介質

有效

• 申請號: 201711035043.3
• 申請日: 2017-10-30
• 公開（公告）號: CN108304439B
• 公開（公告）日: 2021-07-27
• 發明（設計）人: 魯亞楠;林芬
• 申請（專利權）人: 騰訊科技（深圳）有限公司
• 主分類號: G06F16/36
• 分類號: G06F16/36;G06F40/194;G06F40/30
• 代理公司: 廣州三環專利商標代理有限公司 44202
• 代理人: 郝傳鑫;熊永強

1.一種語義模型優化方法，其特征在于，包括：

獲取訓練語句，所述訓練語句用于對待優化的第一模型進行優化訓練，所述訓練語句包括第一語句和第二語句；

采用所述第一模型對所述第一語句進行編碼得到第一語句向量，并采用所述第一模型對所述第二語句進行編碼得到第二語句向量；

采用第二模型對所述第一語句進行編碼得到第三語句向量，并采用第二模型對所述第二語句進行編碼得到第四語句向量；

根據所述第一語句向量和所述第三語句向量組合得到第一組合語句向量，并根據所述第二語句向量和所述第四語句向量組合得到第二組合語句向量；

計算所述第一組合語句向量和第二組合語句向量之間的相似度，并根據計算得到的相似度和為所述第一語句和第二語句配置的相似描述信息對所述第一模型進行優化處理。

2.如權利要求1所述的方法，其特征在于，采用所述第一模型對所述第一語句進行編碼得到第一語句向量，并采用所述第一模型對所述第二語句進行編碼得到第二語句向量，包括：

采用第一模型對所述第一語句進行編碼得到第一詞向量，并采用所述第一模型對所述第二語句進行編碼得到第二詞向量；

采用第二模型對所述第一語句進行編碼得到第三詞向量，并采用所述第二模型對所述第二語句進行編碼得到第四詞向量；

將第一詞向量和第三詞向量組合得到第一語句的詞向量，將第二詞向量和第四詞向量組合得到第二語句的詞向量；

采用所述第一模型對所述第一語句的詞向量進行編碼，得到第一語句向量，并采用所述第一模型對所述第二語句的詞向量進行編碼得到第二語句向量。

3.如權利要求2所述的方法，其特征在于，采用所述第一模型對所述第一語句進行編碼得到第一語句向量，并采用所述第一模型對所述第二語句進行編碼得到第二語句向量，還包括：

采用第一分詞規則對所述第一語句和第二語句進行詞語拆分，得到多個詞語，以便于根據得到的詞語來編碼得到所述第一詞向量和第二詞向量；

采用第二分詞規則對所述第一語句和第二語句進行詞語拆分，得到多個詞語，以便于根據得到的詞語來編碼得到第三詞向量和第四詞向量；

其中，所述第一分詞規則和第二分詞規則為相同的分詞規則。

4.如權利要求1所述的方法，其特征在于，還包括：

獲取用于對第二模型進行訓練的訓練語句；

通過第二模型對所述訓練語句進行編碼，得到關于所述訓練語句的語句向量；

基于所述語句向量對所述第二模型進行訓練優化。

5.如權利要求4所述的方法，其特征在于，所述通過第二模型對所述訓練語句進行編碼，得到關于所述訓練語句的語句向量，包括：

通過第二模型對所述訓練語句進行詞編碼，得到詞向量；

通過第二模型對得到的詞向量進行語句編碼，得到關于所述訓練語句的語句向量。

6.如權利要求4或5所述的方法，其特征在于，所述基于所述語句向量對所述第二模型進行訓練優化，包括：

對所述第二模型中的至少兩個子模型進行優化；和/或對所述第二模型中包括的編碼規則進行優化。

7.如權利要求4所述的方法，其特征在于，當所述第二模型包括第一類子模型的情況下，獲取的訓練語句為用于對第一類子模型進行訓練的第一訓練語句；

所述通過第二模型對所述訓練語句進行編碼，得到關于所述訓練語句的語句向量，包括：

按照第二模型的估計算法，估計得到所述第一訓練語句中包括的詞語的詞向量；

根據估計得到的詞向量編碼得到定長的語句向量；該語句向量作為各第一類子模型的輸入參數以對各第一類子模型進行訓練優化。

8.如權利要求7所述的方法，其特征在于，所述按照第二模型的估計算法，估計得到所述第一訓練語句中包括的詞語的詞向量，包括：

按照第二模型將所述第一訓練語句的上下文的每個詞語編碼成定長向量；

將上下文的每個詞語編碼得到的定長向量計算平均值，并根據平均值預測所述第一訓練語句的中心詞；

按照估計算法和所述中心詞，估計所述第一訓練語句的每個詞的詞向量。