[發明專利]一種智能客服語義處理方法有效
| 申請號： | 202010284743.1 | 申請日： | 2020-04-13 |
| 公開（公告）號： | CN111523328B | 公開（公告）日： | 2023-09-05 |
| 發明（設計）人： | 費春勇;黃峰;余敏;王定軍;張繼康 | 申請（專利權）人： | 中博信息技術研究院有限公司 |
| 主分類號： | G06F40/30 | 分類號： | G06F40/30;G06F40/216;G06F40/289;G06F40/242;G06N3/02;G06F16/332;G06Q30/015 |
| 代理公司： | 常州佰業騰飛專利代理事務所(普通合伙) 32231 | 代理人： | 李珍 |
| 地址： | 210000 江蘇*** | 國省代碼： | 江蘇;32 |
| 權利要求書： | 查看更多 | 說明書： | 查看更多 |
| 摘要： | |||
| 搜索關鍵詞： | 一種 智能 客服 語義 處理 方法 | ||
1.一種智能客服語義處理方法，其特征在于：包括如下步驟：
步驟1：建立客服客戶端、樣本數據采樣模塊和云服務器，客服客戶端、樣本數據采樣數據庫和云服務器之間通過互聯網相互通信；
在云服務器中建立DSSM語義相似度模型模塊和TF-IDF模型模塊；
在樣本數據采樣模塊中建立領域外開源樣本數據庫和領域內樣本數據庫；
步驟2：在DSSM語義相似度模型模塊中建立DSSM語義相似度模型；
DSSM語義相似度模型模塊調取領域外開源樣本數據庫中的數據對DSSM語義相似度模型進行訓練；
步驟3：對領域內樣本數據庫中的數據進行標注處理，其標注方法采用問題+答案的方式；
步驟4：在樣本數據采樣模塊中添加開放領域知識豐富訓練數據庫；
步驟5：根據開放領域知識豐富訓練數據庫中的數據，建立領域專用字典；
步驟6：基于word2vec將專用字典中的所有字均生成對應的字向量T；
步驟7：根據以下方法以DSSM為算法核心，選定Transformer特征提取網絡，對標注好的數據進行訓練，得到DSSM語義相似度模型：
步驟S1：以Transformer-DSSM深度網絡為主要框架，輸入字向量T經過雙向GRU提取特征后輸出256維向量；
步驟S2：將步驟S1的結果再輸入到Transformer層，經提取特征后輸出512維向量F＝((t11,t12,t13,...t1,512),...(tc1,tc2,tc3,...,tc,512))；其中，c代表知識庫文本的數量；
步驟S3：設定問題向量為Fq，答案向量為Fa，計算問題向量Fq與答案向量Fa之間的余弦距離：R(q,a)＝cosine(Fq,Fa)；
步驟S4：通過softmax函數將余弦距離R(q,a)轉化為一個后驗概率：
其中γ為softmax的平滑因子，a+為答案中的正樣本，a-為隨機負采樣的負樣本，a為整個答案下的樣本空間；
步驟S5：通過極大似然估計，最小化損失函數進行訓練，得到相似度模型M；
步驟8：將開放領域知識豐富訓練數據庫和領域內樣本數據庫中的數據作為訓練數據，對訓練數據進行文本的分詞和去除停用詞的處理，基于gensim模塊訓練TF-IDF模型，得到模型矩陣,根據模型矩陣計算相似度。
2.如權利要求1所述的一種智能客服語義處理方法，其特征在于：所述開放領域知識豐富訓練數據庫包括日常聊天和百度百科。
3.如權利要求1所述的一種智能客服語義處理方法，其特征在于：在執行步驟6時，在字向量模型中，參與對DSSM語義相似度模型進行訓練的數據T表示為：T＝((t11,t12,t13,...t1l),...(tc1,tc2,tc3,...,tcl))，其中l代表詞向量的長度。
該專利技術資料僅供研究查看技術是否侵權等信息，商用須獲得專利權人授權。該專利全部權利屬于中博信息技術研究院有限公司，未經中博信息技術研究院有限公司許可，擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作，請聯系【客服】
本文鏈接：http://www.szxzyx.cn/pat/books/202010284743.1/1.html，轉載請聲明來源鉆瓜專利網。
