日韩在线一区二区三区,日本午夜一区二区三区,国产伦精品一区二区三区四区视频,欧美日韩在线观看视频一区二区三区 ,一区二区视频在线,国产精品18久久久久久首页狼,日本天堂在线观看视频,综合av一区

[發明專利]一種基于深度特征融合神經網絡的問題對匹配方法和裝置有效

專利信息
申請號: 201910323729.5 申請日: 2019-04-22
公開(公告)號: CN110032635B 公開(公告)日: 2023-01-20
發明(設計)人: 鹿文鵬;張旭;禹繼國 申請(專利權)人: 齊魯工業大學
主分類號: G06F16/332 分類號: G06F16/332;G06F16/33;G06F16/36
代理公司: 濟南信達專利事務所有限公司 37100 代理人: 孫園園
地址: 250022 山東*** 國省代碼: 山東;37
權利要求書: 查看更多 說明書: 查看更多
摘要:
搜索關鍵詞: 一種 基于 深度 特征 融合 神經網絡 問題 匹配 方法 裝置
【權利要求書】:

1.一種基于深度特征融合神經網絡的問題對匹配方法,其特征在于,該方法包括如下步驟:

S1、構建問題對知識庫:從互聯網問答社區爬取問題對,并對問題對進行預處理,初步構建問題對知識庫;

S2、構建問題對匹配模型訓練數據集:對于每個問題,在問題對知識庫中至少有一個與該問題相匹配的標準問題,將標準問題與該問題構建訓練正例;將除標準問題以外的問題與該問題構建訓練負例;

S3、構建問題對匹配模型:利用深度特征融合神經網絡構建問題對匹配模型,具體步驟如下:

S301、構建字符映射轉換表;

S302、構建輸入層:輸入層包括兩個輸入,從問題對知識庫中分別獲取question1、question2,將其形式化為:(question1,question2);再根據步驟S301中得到的字符映射轉換表將輸入數據中的字符轉化為數字表示;

S303、構建字符向量映射層;

S304、構建基于深度特征融合的神經網絡編碼層;具體步驟如下:

S30401、將步驟S303處理后的輸入文本進行編碼和語義提取;

S30402、使用兩個長短期記憶網絡LSTM分別對文本進行編碼,兩者語義特征進行加法操作;

S30403、同時使用兩個基于時間序列TimeDistribued的全連接Dense層對兩者語義特征進行加法操作,具體公式如下:

其中,i表示相應詞向量在句子中的相對位置;pi表示句子question1中每個字符的相應向量表示;表示經過其中一個LSTM編碼后的question1句子向量;表示經過另一個LSTM編碼后的question1句子向量;表示使用其中一個基于時間序列TimeDistribued的全連接Dense層編碼的句子向量;表示使用另一個基于時間序列TimeDistribued的全連接Dense層編碼的句子向量;表示兩個LSTM編碼層的輸出結果加法運算的結果;表示使用兩個基于時間序列TimeDistribued的全連接Dense層編碼的輸出結果加法運算的結果;

S30404、將步驟S30403中的兩種語義特征編碼結果進行連接,作為該問題的語義特征,公式如下:

其中,表示向量連接的結果,即為句子編碼的最終向量表示,使用vectorquestion1、vectorquestion2來具體表示對于question1、question2的編碼結果的最終向量;

S305、構建文本相似度匹配層;具體步驟如下:

S30501、根據步驟S304分別得到question1、question2的最終向量表示vectorquestion1、vectorquestion2

S30502、針對步驟S30501中的兩個向量分別按照如下公式計算兩個向量之間的差異:

abs=|vectorquestion1-vectorquestion2|;

cos=cos(vectorquestion1-vectorquestion2);

mul=vectorquestion1*vectorquestion2

其中,abs表示向量vectorquestion1、vectorquestion2逐元素之間求差取絕對值;cos表示向量vectorquestion1、vectorquestion2逐元素之間求差的余弦值;mul表示向量vectorquestion1、vectorquestion2逐元素之間求積;

S30503、將步驟S30502中的三個結果進行連接,作為問題對的相似度的全面表征,公式如下:

con=[abs,cos,mul];

其中,con表示將步驟S30502中的三個結果,即abs、cos和mul,進行連接后得到的相似度表征;

S30504、將步驟S30503中得到的相似度表征向量經過全連接層進行解碼,采用sigmoid函數進行相似度計算,得到處于[0,1]之間的相似度表示ypred,通過相似度的值判別問題對相似程度;

S4、訓練問題對匹配模型和標準問題選擇:在步驟S2所得的訓練集上對步驟S3構建的問題對匹配模型進行訓練;具體步驟如下:

S401、構建損失函數:為了解決在匹配過程中出現的過擬合問題,使模型在優化時將注意力更集中于難以分類的樣本,利用單位階躍函數來修正交叉熵損失函數,公式如下:

得到新的交叉熵損失函數,公式如下:

為了防止分類過于自信,使用修正的均方誤差損失函數來進一步改進Lnew(cross_entropy),得到:

其中,ypred為根據步驟S305得到的相似度計算結果;ytrue為兩個句子相似與否的真實表示,取值為0或1;m表示閾值,m∈(0.5,1);n為數據集大小,n∈N+;ones_like即使用數據1對于張量進行填充;

S402、構建優化函數:使用Adam算法作為模型的優化函數,學習率設置為0.002,超參數使用Keras中的默認值即可;

S403、問題對選擇:將一個新的問題與問題對知識庫中的所有候選的與之相匹配的問題組成輸入樣本;再分別利用步驟S3訓練完成的問題對匹配模型,計算問題與候選的與之相匹配的問題之間相似度的數值;最后從所有結果中選取相似度值最高的一組作為新問題最有可能匹配的問題并將該問題推送給用戶。

下載完整專利技術內容需要扣除積分,VIP會員可以免費下載。

該專利技術資料僅供研究查看技術是否侵權等信息,商用須獲得專利權人授權。該專利全部權利屬于齊魯工業大學,未經齊魯工業大學許可,擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作,請聯系【客服

本文鏈接:http://www.szxzyx.cn/pat/books/201910323729.5/1.html,轉載請聲明來源鉆瓜專利網。

×

專利文獻下載

說明:

1、專利原文基于中國國家知識產權局專利說明書;

2、支持發明專利 、實用新型專利、外觀設計專利(升級中);

3、專利數據每周兩次同步更新,支持Adobe PDF格式;

4、內容包括專利技術的結構示意圖流程工藝圖技術構造圖

5、已全新升級為極速版,下載速度顯著提升!歡迎使用!

請您登陸后,進行下載,點擊【登陸】 【注冊】

關于我們 尋求報道 投稿須知 廣告合作 版權聲明 網站地圖 友情鏈接 企業標識 聯系我們

鉆瓜專利網在線咨詢

周一至周五 9:00-18:00

咨詢在線客服咨詢在線客服
tel code back_top
主站蜘蛛池模板: 538在线一区二区精品国产| 丰满岳乱妇bd在线观看k8| 中文字幕制服丝袜一区二区三区| 中文字幕av一区二区三区高| 精品久久一区| 日韩av在线中文| 老女人伦理hd| 亚洲国产一区二| 日韩精品免费一区二区在线观看 | 国产精品亚洲精品一区二区三区| 国产69久久久欧美一级| 午夜社区在线观看| 国产一区亚洲一区| 欧美一区二区久久| 欧美高清xxxxx| 日韩av在线影院| 国产精品自拍不卡| 国产欧美亚洲精品| 狠狠色狠狠综合久久| 国产理论一区| 日本一区免费视频| 国产免费第一区| 人人要人人澡人人爽人人dvd| 亚洲麻豆一区| 国内自拍偷拍一区| 精品国精品国产自在久不卡| 国产日产精品一区二区| 在线精品国产一区二区三区| 亚洲欧美日韩在线看| 国产精品日韩一区二区| 狠狠躁夜夜躁2020| 免费观看黄色毛片| 国产精品视频免费看人鲁| 欧美日韩精品在线一区二区| 综合欧美一区二区三区| 色综合久久网| 精品久久久久久亚洲综合网 | 综合久久色| 日韩亚洲精品视频| 中文字幕欧美一区二区三区| 日本高清不卡二区| 欧美一区二区三区国产精品| 一区二区精品久久| 欧美乱妇在线视频播放| 免费a级毛片18以上观看精品| 日本久久丰满的少妇三区| 久久激情网站| 欧美一级免费在线视频| 国产精品欧美久久| 欧美二区在线视频| 国产精品一二三区免费| 狠狠色噜噜狠狠狠狠奇米777| 久久精品亚洲精品国产欧美| 国产视频二区| 久久久久久久久亚洲精品一牛| 亚洲国产欧洲综合997久久,| 国产在线欧美在线| 狠狠色狠狠色88综合日日91| 日韩av在线播| 国产精品一二三四五区| 久久国产精品麻豆| 国产不卡一区在线| 一区二区欧美视频| 欧美日韩国产一二| 国产不卡一区在线| 亚洲欧美色图在线| 国产精品久久久久久久综合| ass韩国白嫩pics| 国产一区午夜| 亚洲精品乱码久久久久久蜜糖图片| 国产一区二区精华| 亚洲精品色婷婷| 中文字幕日韩有码| 午夜三级电影院| 国产一区二区在线91| 国产一级自拍片| xxxxhdvideosex| 艳妇荡乳欲伦2| 国产日韩欧美中文字幕| 99re热精品视频国产免费 | 99爱精品视频| 欧美日韩三区二区| 香港日本韩国三级少妇在线观看| 国产日韩欧美综合在线| 日韩欧美精品一区二区| 国内精品国产三级国产99| 91国偷自产一区二区介绍| 亚洲福利视频一区| 68精品国产免费久久久久久婷婷 | 国产乱了高清露脸对白| 国产精品对白刺激久久久| 日韩一区免费在线观看| 国产91清纯白嫩初高中在线观看| 人人要人人澡人人爽人人dvd| 国产一卡二卡在线播放| 免费精品一区二区三区视频日产| 国产一区二区三区四| 中文字幕日韩有码| 久久久精品a| 91超碰caoporm国产香蕉| 一区二区在线国产| 免费精品一区二区三区第35| 欧美极品少妇| 欧美日韩不卡视频| 日韩精品久久久久久久的张开腿让 | 午夜剧场a级免费| 国产日韩欧美亚洲| 一区二区久久久久| 理论片高清免费理伦片| 日韩av在线网| 91av中文字幕| 国产欧美一区二区三区在线| 亚洲国产日韩综合久久精品 | 麻豆91在线| 大伊人av| 国产精品一二三区视频出来一 | 日韩午夜电影在线| 午夜老司机电影| 国产69久久久欧美一级| 国产91在线播放| 国产精品美女www爽爽爽视频| 大bbw大bbw巨大bbb| 少妇又紧又色又爽又刺激视频网站| 性old老妇做受| 亚洲网久久| 岛国黄色网址| 天摸夜夜添久久精品亚洲人成| 亚洲国产精品美女| 精品国产一区二区三区四区vr| 亚洲国产精品女主播| 日本一区午夜艳熟免费| 中文在线一区二区三区| 一区二区欧美视频| 亚洲精品日本无v一区| 国产欧美一区二区三区在线看| 国产呻吟久久久久久久92| 国内视频一区二区三区| 国产欧美一区二区在线观看| 日韩欧美国产另类| 夜夜夜夜夜猛噜噜噜噜噜gg| 国产在线精品区| 一区不卡av| 国产国产精品久久久久| 日本少妇一区二区三区| 精品久久一区| 91日韩一区二区三区| 午夜剧场一区| 午夜666| 久久天天躁夜夜躁狠狠躁2022| 国产区二区| 国产精品6699| 精品少妇一区二区三区免费观看焕| 亚洲乱码一区二区三区三上悠亚| 处破大全欧美破苞二十三| 99精品视频一区| 国产精品自拍在线观看| 国产欧美一区二区三区四区| 亚洲国产一二区| 久久久久国产精品www| 国产一区中文字幕在线观看| 欧美乱妇高清无乱码免费| 午夜影院一区| 欧美日韩国产综合另类| 久久一区二区三区视频| www.久久精品视频| 国产欧美一区二区精品久久| 538国产精品| 久久精品国产亚洲7777| 久久两性视频| 欧美激情精品久久久久久免费 | 国产精品乱码一区二区三区四川人| 中文在线一区二区三区| 亚洲乱子伦| 免费的午夜毛片| 狠狠色噜噜狠狠狠888奇米| 午夜黄色网址| 福利片91| 窝窝午夜精品一区二区| 欧美一区二区免费视频| 狠狠躁日日躁狂躁夜夜躁| 国产在线一卡二卡| 国产一区二区二| 欧美一区二区色| 国产资源一区二区三区| 欧美精品六区| 精品国产九九| 日韩精品免费一区二区中文字幕| 老太脱裤子让老头玩xxxxx| 久久99精品久久久秒播| 亚洲久色影视| 日韩av在线播放网址| 久久免费视频一区二区| 久久精品国产综合| 国产黄色一区二区三区 | 一区二区三区欧美精品| 亚洲精品卡一| 国产伦精品一区二区三区免| 2023国产精品自产拍在线观看| 91麻豆精品国产91久久| 久久99国产精品久久99果冻传媒新版本| 国产乱码精品一区二区三区介绍| 一区二区三区国产精品视频 | 国产精品中文字幕一区| 国产精品视频一二区| 国产乱子一区二区| 狠狠操很很干| 国产精品日产欧美久久久久| 久久久久久久亚洲国产精品87| 国产乱人伦偷精品视频免下载| 午夜少妇性影院免费观看| 亚州精品国产| 国模吧一区二区| 中文字幕一区二区三区乱码视频| 国产一区免费播放| 91国产在线看| 日韩av在线高清| 国产有码aaaae毛片视频| 国产91久| 丰满少妇在线播放bd日韩电影| 国产精品一区不卡| 国产黄色网址大全| 国产精品久久久久久久久久久久久久不卡| 精品99在线视频| 亚洲精品一区在线| 99精品欧美一区二区三区美图| 国产欧美一区二区精品久久久| 欧美一区二区三区久久久久久桃花 | 欧美大片一区二区三区| 欧美乱妇高清无乱码| 中文字幕制服狠久久日韩二区 | 国产精品人人爽人人做av片| 欧美日韩一区二区三区不卡| 91看片app| 日日夜夜精品免费看 | 国产乱人乱精一区二视频国产精品 | 久久久精品a| 国模一区二区三区白浆| 91精品国产综合久久福利软件| 年轻bbwwbbww高潮| 国产日韩欧美一区二区在线观看 | 日韩欧美一区二区在线视频| 中文字幕欧美日韩一区 | 四虎精品寂寞少妇在线观看| 91国内精品白嫩初高生| 国产精品网站一区| 91精品第一页|