[發明專利]模型訓練、蛋白質特征提取和功能預測的方法與裝置

在審

• 申請號: 202110996109.5
• 申請日: 2021-08-27
• 公開（公告）號: CN114333980A
• 公開（公告）日: 2022-04-12
• 發明（設計）人: 吳家祥
• 申請（專利權）人: 騰訊科技（深圳）有限公司
• 主分類號: G16B5/00
• 分類號: G16B5/00;G16B40/00;G16B50/00;G06N3/04;G06N3/08;G06N20/00
• 代理公司: 北京勵誠知識產權代理有限公司 11647
• 代理人: 趙爽

本申請實施例提供一種模型訓練、蛋白質特征提取和功能預測的方法與裝置，其中，模型的訓練方法包括：基于起始蛋白質的三維結構，構建起始拓撲圖G，其中，所述起始拓撲圖G采用所述起始蛋白質的氨基酸殘基作為節點，所述起始拓撲圖G采用鄰近氨基酸殘基對作為邊；和將所述起始拓撲圖G輸入至預訓練模型，對所述預訓練模型進行訓練，以便獲得用于對所述蛋白質進行特征提取的預訓練模型，其中，所述預訓練模型包括具有SE(3)等變性的圖神經網絡。由此，可以提高蛋白質特征提取等相關預測的預測精度，降低工作成本，提高預測效率。

技術領域

本申請實施例涉及計算機技術領域，尤其涉及一種模型訓練、蛋白質特征提取和功能預測的方法與裝置。

背景技術

由氨基酸的線性鏈組成的蛋白質是活生物體中用途最廣泛的分子之一。它們在普遍的生物學機制中起著至關重要的功能。蛋白質根據氨基酸序列自然折疊成三維結構，結構會對其功能產生直接影響。隨著測序技術的出現，獲得蛋白質序列變得相對更加容易，但是對于蛋白質功能的預測仍然需要大量時間和資源。

目前已有的蛋白質預訓練方法中，多數是基于蛋白質的氨基酸序列或者其相關的同源序列數據，往往沒有利用蛋白質的三維結構信息，但是，實際上，三維結構對于蛋白質的功能預測例如生物學功能等下游任務而言具有更直接的影響。

發明內容

本申請實施例提供一種模型訓練、蛋白質特征提取和功能預測的方法與裝置，以提高蛋白質特征提取等相關預測的預測精度，降低工作成本，提高預測效率。

第一方面，本申請的實施例提出了一種預訓練模型的訓練方法，所述預訓練模型用于對蛋白質進行特征提取，該方法包括：基于起始蛋白質的三維結構，構建起始拓撲圖G，其中，所述起始拓撲圖G采用所述起始蛋白質的氨基酸殘基作為節點，所述起始拓撲圖G采用鄰近氨基酸殘基對作為邊；和

將所述起始拓撲圖G輸入至預訓練模型，對所述預訓練模型進行訓練，以便獲得用于對所述蛋白質進行特征提取的預訓練模型，

其中，所述預訓練模型包括具有SE(3)等變性的圖神經網絡。

在一些實施例中，所述預訓練模型在所述具有SE(3)等變性的圖神經網絡之前設置有注意力層。

在一些實施例中，所述注意力層為多頭注意力層。

在一些實施例中，所述注意力層采用氨基酸殘基的特征h，氨基酸殘基之間的組合特征g以及氨基酸殘基之間的α-碳原子距離r作為輸入特征，輸出經過更新的氨基酸殘基特征h’和α-碳原子坐標s’_i。

在一些實施例中，所述圖神經網絡包括選自EGNN、SE(3)-Transformer和Lie-Transformer的至少之一。

在一些實施例中，對所述預訓練模型進行訓練包括：

基于起始蛋白質的三維結構，構建起始拓撲圖G，其中，所述起始拓撲圖G采用所述起始蛋白質的氨基酸殘基作為節點，所述起始拓撲圖G采用鄰近氨基酸殘基對作為邊；

對所述起始拓撲圖G施加預先指定的噪聲，以便得到至少一個經過擾動的拓撲圖G’；

采用所述經過擾動的拓撲圖G’作為輸入特征，對預訓練模型進行去噪訓練，所述去噪訓練采用所述經過擾動的拓撲圖G’與所述起始拓撲圖G之間的真實去噪梯度作為訓練標記，以便得到所述預訓練模型。

第二方面，本申請的實施例提出了一種對蛋白質進行特征提取的方法，其包括：

基于蛋白質的三維結構，構建起始拓撲圖G，其中，所述起始拓撲圖G采用所述蛋白質的氨基酸殘基作為節點，所述起始拓撲圖G采用采用鄰近氨基酸殘基對作為邊；

基于所述拓撲圖G，提取所述蛋白質的特征向量；