[發明專利]模型訓練、蛋白質特征提取和功能預測的方法與裝置

在審

• 申請號: 202110996109.5
• 申請日: 2021-08-27
• 公開（公告）號: CN114333980A
• 公開（公告）日: 2022-04-12
• 發明（設計）人: 吳家祥
• 申請（專利權）人: 騰訊科技（深圳）有限公司
• 主分類號: G16B5/00
• 分類號: G16B5/00;G16B40/00;G16B50/00;G06N3/04;G06N3/08;G06N20/00
• 代理公司: 北京勵誠知識產權代理有限公司 11647
• 代理人: 趙爽

1.一種預訓練模型的訓練方法，所述預訓練模型用于對蛋白質進行特征提取，其特征在于，包括：

基于起始蛋白質的三維結構，構建起始拓撲圖G，其中，所述起始拓撲圖G采用所述起始蛋白質的氨基酸殘基作為節點，所述起始拓撲圖G采用鄰近氨基酸殘基對作為邊；和

將所述起始拓撲圖G輸入至預訓練模型，對所述預訓練模型進行訓練，以便獲得用于對所述蛋白質進行特征提取的預訓練模型，

其中，所述預訓練模型包括具有SE(3)等變性的圖神經網絡。

2.根據權利要求1所述的方法，其特征在于，所述預訓練模型在所述具有SE(3)等變性的圖神經網絡之前設置有注意力層。

3.根據權利要求2所述的方法，其特征在于，所述注意力層為多頭注意力層。

4.根據權利要求2或3所述的方法，其特征在于，所述注意力層采用氨基酸殘基的特征h，氨基酸殘基之間的組合特征g以及氨基酸殘基之間的α-碳原子距離r作為輸入特征，輸出經過更新的氨基酸殘基特征h’和α-碳原子坐標s’_i。

5.根據權利要求2所述的方法，其特征在于，所述圖神經網絡包括選自EGNN、SE(3)-Transformer和Lie-Transformer的至少之一。

6.根據權利要求1所述的方法，其特征在于，對所述預訓練模型進行訓練包括：

對所述起始拓撲圖G施加預先指定的噪聲，以便得到至少一個經過擾動的拓撲圖G’；和

采用所述經過擾動的拓撲圖G’作為輸入特征，對預訓練模型進行去噪訓練，所述去噪訓練采用所述經過擾動的拓撲圖G’與所述起始拓撲圖G之間的真實去噪梯度作為訓練標記，以便得到所述預訓練模型。

7.一種對蛋白質進行特征提取的方法，其特征在于，包括：

基于蛋白質的三維結構，構建拓撲圖G，其中，所述拓撲圖G采用所述蛋白質的氨基酸殘基作為節點，所述拓撲圖G采用采用鄰近氨基酸殘基對作為邊；

基于所述拓撲圖G，提取所述蛋白質的特征向量；

將所述蛋白質的所述特征向量，輸入預訓練模型，以便獲得經過預訓練的氨基酸殘基特征，所述預訓練模型是根據具有三維結構信息的蛋白質數據進行預訓練得到的，所述預訓練模型包括具有SE(3)等變性的圖神經網絡。

8.根據權利要求7所述的方法，其特征在于，進一步包括：

將所述經過預訓練的氨基酸殘基特征進行全局池化處理，以便獲得整體蛋白質特征。

9.根據權利要求7所述的方法，其特征在于，所述預訓練模型在所述具有SE(3)等變性的圖神經網絡之前設置有注意力層。

10.根據權利要求9所述的方法，其特征在于，所述注意力層為多頭注意力層。

11.根據權利要求9或10所述的方法，其特征在于，

所述注意力層采用氨基酸殘基的特征h，氨基酸殘基之間的組合特征g以及氨基酸殘基之間的α-碳原子距離r作為輸入特征，輸出經過更新的氨基酸殘基特征h’和α-碳原子坐標s’_i。

12.根據權利要求1所述的方法，其特征在于，所述圖神經網絡包括選自EGNN、SE(3)-Transformer和Lie-Transformer的至少之一。