[發明專利]信息處理方法和裝置

有效

• 申請號: 202010980519.6
• 申請日: 2020-09-17
• 公開（公告）號: CN112069823B
• 公開（公告）日: 2021-07-09
• 發明（設計）人: 蔡華
• 申請（專利權）人: 華院計算技術（上海）股份有限公司
• 主分類號: G06F40/295
• 分類號: G06F40/295;G06N3/04
• 代理公司: 上海京滬專利代理事務所(普通合伙) 31235
• 代理人: 馬強

1.一種信息處理裝置，其特征在于，包括數據嵌入模塊、特征編碼模塊和排序過濾模塊，其中

所述數據嵌入模塊，用于向量的嵌入，并將嵌入的向量發送給所述特征編碼模塊進行編碼處理；

所述特征編碼模塊，用于對所述數據嵌入模塊嵌入的向量進行編碼處理得到編碼向量，并將所述編碼向量部分反饋給所述數據嵌入模塊進行向量的嵌入，以及將所述編碼向量輸出給所述排序過濾模塊進行處理；

所述排序過濾模塊，用于對所述特征編碼模塊輸出的編碼向量進行迭代解碼和排序過濾處理，并將迭代解碼和排序過濾處理后的表示向量部分發送給所述數據嵌入模塊進行向量的嵌入；其中，所述排序過濾模塊包括：

迭代解碼單元：用于對所述特征編碼模塊輸出的編碼向量進行迭代解碼處理，并將迭代解碼處理后的表示向量發送給打分單元；

打分單元：用于通過打分函數對所述表示向量進行置信度計算；

過濾單元：用于根據所述表示向量的置信度，選擇出置信度大于置信度閾值的表示向量，并且將每個選擇出的表示向量與其他已經選擇出的表示向量進行相似度比較，并將相似度小于相似度閾值的表示向量發送給控制開關；

控制開關：用于控制所述過濾單元過濾后的表示向量發送給所述數據嵌入模塊進行向量的嵌入；以及控制所述特征編碼模塊輸出的編碼向量直接進入特征解碼模塊進行特征解碼；

所述嵌入的向量包括所述特征編碼模塊反饋的編碼向量和所述排序過濾模塊處理后反饋的表示向量，還包括預先對輸入數據進行處理后的字詞混合向量和位置信息向量。

2.根據權利要求1所述的裝置，其特征在于，所述數據嵌入模塊，具體還用于：對所述編碼向量進行維度變換，得到一個固定維度大小的編碼向量，根據尾實體相對于頭實體的相對位置，編碼得到位置編碼向量，然后將其與前述的固定維度大小的編碼向量進行拼接，形成新的編碼向量，之后，將新的編碼向量與所述字詞混合向量和位置信息向量共用融入到同一個嵌入層，并發送給所述特征編碼模塊。

3.根據權利要求1-2中任一項所述的裝置，其特征在于，還包括：

特征解碼模塊，用于將排序過濾模塊處理后的表示向量經過自注意力機制進行序列變換，將序列變換后的解碼向量經過神經網絡模型進行解碼并輸出。

4.根據權利要求3所述的裝置，其特征在于，還包括：

更新輔助模塊，用于將所述特征解碼模塊輸出的解碼向量更新知識圖譜，并將更新后的知識圖譜發送給所述數據嵌入模塊。

5.一種信息處理方法，其特征在于：

對嵌入的向量進行編碼處理得到編碼向量；

將所述編碼向量的部分向量進行向量重新嵌入；

將所述編碼向量進行迭代解碼和排序過濾處理；

將所述編碼向量進行迭代解碼和排序過濾處理包括：

對所述編碼向量進行迭代解碼處理;

通過打分函數對所述迭代解碼處理后的表示向量進行置信度計算；

根據所述表示向量的置信度，選擇出置信度大于置信度閾值的表示向量，并且將每個選擇出的表示向量與其他已經選擇出的表示向量進行相似度比較;

將相似度小于相似度閾值的表示向量重新組合進行向量的嵌入；

控制特征編碼模塊輸出的編碼向量直接進入特征解碼模塊進行特征解碼； 將所述迭代解碼和排序過濾處理后的表示向量進行部分向量的重新嵌入；

所述嵌入的向量包括特征編碼模塊部分反饋的編碼向量和排序過濾模塊處理后部分反饋的表示向量，還包括預先對輸入數據進行處理后的字詞混合向量和位置信息向量。

6.根據權利要求5所述的方法，其特征在于，將所述編碼向量進行向量的嵌入包括：

對所述編碼向量進行維度變換，得到一個固定維度大小的編碼向量，根據尾實體相對于頭實體的相對位置，編碼得到位置編碼向量，然后將其與前述的固定維度大小的編碼向量進行拼接，形成新的編碼向量，之后，將新的編碼向量與所述字詞混合向量和位置信息向量共用融入到同一個嵌入層。