[發明專利]基于關系圖注意力神經網絡的事件時序關系識別方法有效
| 申請號: | 202011471742.4 | 申請日: | 2020-12-15 |
| 公開(公告)號: | CN112507077B | 公開(公告)日: | 2022-05-20 |
| 發明(設計)人: | 徐小良;高通 | 申請(專利權)人: | 杭州電子科技大學 |
| 主分類號: | G06F16/33 | 分類號: | G06F16/33;G06F16/35;G06F40/211;G06F40/216;G06F40/289;G06F40/30;G06K9/62;G06N3/04;G06N3/08 |
| 代理公司: | 浙江千克知識產權代理有限公司 33246 | 代理人: | 周希良 |
| 地址: | 310018 浙江*** | 國省代碼: | 浙江;33 |
| 權利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關鍵詞: | 基于 關系 注意力 神經網絡 事件 時序 識別 方法 | ||
1.基于關系圖注意力神經網絡的事件時序關系識別方法,該方法包含如下步驟:
Step1:時序圖構建
首先對事件句對進行語義依存分析,獲得兩個依存樹;針對每個依存樹,查找觸發詞所處位置,并以觸發詞以起點,遞歸查找它的相鄰節點,直到p跳的相鄰節點為止,并保留該階段內被查找的節點,其中p為遞歸次數;
使用抽象的關系類型表示分詞間的聯系,定義的關系類型如下:
Depend-Head類型邊:通過依存分析工具獲得的邊;
Head-Depend類型邊:與Depend-Head類型邊方向相反;
Self-Loop類型邊:該邊指向分詞本身;
Head-Head類型邊:該邊兩端均為觸發詞;
由此得到一個時序圖G=(U,E),其中每個節點ui∈U,每個邊(ui,uj)∈E;
Step2:時序圖學習
定義每個節點的初始隱藏狀態為每個節點的鄰居集合為N(ui);對于時序圖G中的每個節點ui,計算它的第l層的隱藏狀態
利用注意力機制對不同的鄰居節點進行差異化處理,以區別不同的鄰居節點的權重;
根據注意力機制中的注意力系數計算處于第l層的不同節點間的相關度
Step3:時序分類
首先從隱藏狀態集合中提取出觸發詞的隱藏狀態和
然后將事件句s1和事件句s2中剩余的隱藏狀態信息分別整合為句子表示向量和
最后,利用前饋神經網絡FFNN和softmax函數對上述句子表示向量進行計算,預測不同事件間的時序關系;
其中Step2中時序圖G中的每個節點ui的第l層的隱藏狀態計算如下:
其中,Nr(ui)表示節點ui在關系類型r∈R下的鄰居節點,表示第l-1層的節點ui與節點uj在關系類型r∈R下的相關度,表示在關系類型r∈R下的第l-1層的鄰居節點的權重矩陣,表示第l-1層觸發詞t的權重矩陣,R表示關系類型的集合,σ表示激活函數。
2.根據權利要求1所述的基于關系圖注意力神經網絡的事件時序關系識別方法,其特征在于:Step3中句子表示向量和計算如下:
該專利技術資料僅供研究查看技術是否侵權等信息,商用須獲得專利權人授權。該專利全部權利屬于杭州電子科技大學,未經杭州電子科技大學許可,擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作,請聯系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/202011471742.4/1.html,轉載請聲明來源鉆瓜專利網。





