[發(fā)明專利]基于注意力機(jī)制的抗體非定序預(yù)測(cè)方法和裝置

有效

• 申請(qǐng)?zhí)枺?/td>: 202210466987.0
• 申請(qǐng)日: 2022-04-29
• 公開（公告）號(hào): CN114822696B
• 公開（公告）日: 2023-04-18
• 發(fā)明（設(shè)計(jì)）人: 張林峰;孫偉杰;溫翰;許瑞晗
• 申請(qǐng)（專利權(quán)）人: 北京深勢(shì)科技有限公司
• 主分類號(hào): G16B30/00
• 分類號(hào): G16B30/00;G16B40/00;G06N3/04
• 代理公司: 北京漢智嘉成知識(shí)產(chǎn)權(quán)代理有限公司 11682
• 代理人: 金潔;谷惠敏

1.一種基于注意力機(jī)制的抗體非定序預(yù)測(cè)方法，其特征在于，應(yīng)用于實(shí)現(xiàn)抗體溶解度和聚集度的預(yù)測(cè)和改造、抗體人源化預(yù)測(cè)和改造、抗體表達(dá)量預(yù)測(cè)和改造、抗體抗原對(duì)接和抗原表面位預(yù)測(cè)、造抗體改造展示庫(kù)構(gòu)建或者抗體從頭設(shè)計(jì)，該方法包括：

獲取抗體數(shù)據(jù)庫(kù)，其中所述抗體數(shù)據(jù)庫(kù)為針對(duì)特定問題的抗體序列數(shù)據(jù)集合，所述針對(duì)特定問題的抗體序列數(shù)據(jù)集合為cab-rep人源數(shù)據(jù)庫(kù)、OAS人源數(shù)據(jù)庫(kù)或者INDI納米抗體序列庫(kù)中的一者或者多者的組合；

將所述抗體數(shù)據(jù)庫(kù)輸入非定序神經(jīng)網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練，直至誤差低于閾值或趨于穩(wěn)定時(shí)停止訓(xùn)練，得到訓(xùn)練好的抗體非定序預(yù)測(cè)模型，本步驟具體包括：獲取相關(guān)抗體的蛋白質(zhì)數(shù)據(jù)或者相關(guān)抗體的同源蛋白質(zhì)的數(shù)據(jù)中的至少之一，把數(shù)據(jù)輸入神經(jīng)網(wǎng)絡(luò)，經(jīng)由神經(jīng)網(wǎng)絡(luò)得到相關(guān)抗體的全部氨基酸序列和相關(guān)抗體的同源蛋白質(zhì)的全部氨基酸序列的預(yù)測(cè)值，根據(jù)相關(guān)抗體全部氨基酸序列和相關(guān)抗體的同源蛋白質(zhì)的全部氨基酸序列的預(yù)測(cè)值，以及相關(guān)抗體的全部氨基酸序列和相關(guān)抗體的同源蛋白質(zhì)的全部氨基酸序列的真值，訓(xùn)練神經(jīng)網(wǎng)絡(luò)，其中所述非定序神經(jīng)網(wǎng)絡(luò)模型為廣義自回歸預(yù)訓(xùn)練注意力模型或者雙向生成式預(yù)訓(xùn)練注意力模型，所述非定序神經(jīng)網(wǎng)絡(luò)模型具體包括編碼模型和解碼模型：編碼模型和解碼模型分別包括至少一個(gè)注意力模塊；

將待預(yù)測(cè)抗體信息輸入所述抗體非定序預(yù)測(cè)模型，得到所述待預(yù)測(cè)抗體的全部氨基酸序列的預(yù)測(cè)值或概率分布，本步驟具體包括：通過(guò)采用編碼模型獲CDR-H1和CDR-H2的信息，通過(guò)采用解碼模型，預(yù)測(cè)CDR-H3的信息；進(jìn)一步考慮非互補(bǔ)決定區(qū)的骨架序列，通過(guò)編碼模型獲取整個(gè)骨架區(qū)序列信息并采用解碼模型預(yù)測(cè)CDR-H3信息：將待預(yù)測(cè)抗體和待預(yù)測(cè)抗體的同源蛋白質(zhì)的數(shù)據(jù)中的至少之一輸入編碼模型中的非定序自注意力模塊，經(jīng)由非定序自注意力模塊得到待預(yù)測(cè)抗體對(duì)應(yīng)的中間結(jié)果，然后將待預(yù)測(cè)抗體和待預(yù)測(cè)抗體的同源蛋白質(zhì)的數(shù)據(jù)中的至少之一以及中間結(jié)果輸入編碼模型中的非定序自注意力模塊，經(jīng)由非定序自注意力模塊得到待預(yù)測(cè)抗體對(duì)應(yīng)的全部氨基酸序列的預(yù)測(cè)值，將待預(yù)測(cè)抗體的部分區(qū)域的序列信息輸入非定序自注意力模塊，獲得該抗體未預(yù)測(cè)區(qū)域中的一個(gè)隨機(jī)位置的預(yù)測(cè)值，并將該預(yù)測(cè)值和上一輪輸入的部分區(qū)域的序列信息合并作為新一輪的輸入，輸入非定序自注意力模塊，重復(fù)以上過(guò)程直至獲得待預(yù)測(cè)抗體的全部區(qū)域的預(yù)測(cè)值，其中，待預(yù)測(cè)抗體信息包括如下內(nèi)容之一者或多者組合：待預(yù)測(cè)抗體的部分位點(diǎn)的氨基酸序列、待預(yù)測(cè)抗體的氨基酸序列長(zhǎng)度、待預(yù)測(cè)抗體的多個(gè)同源蛋白質(zhì)的氨基酸序列中氨基酸分布的概率信息。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述注意力模塊的輸入由隨機(jī)設(shè)定預(yù)測(cè)順序的標(biāo)簽數(shù)據(jù)確定，所述注意力模塊的輸出由全部標(biāo)簽數(shù)據(jù)確定，其中，標(biāo)簽數(shù)據(jù)是指整個(gè)抗體序列包含骨架區(qū)域與互補(bǔ)決定區(qū)或者單純互補(bǔ)決定區(qū)序列。

3.根據(jù)權(quán)利要求2所述的方法，其特征在于，所述隨機(jī)設(shè)定預(yù)測(cè)順序的標(biāo)簽數(shù)據(jù)使用掩膜方法屏蔽部分序列的信息，以預(yù)測(cè)被屏蔽部分的序列信息。

4.一種基于注意力機(jī)制的抗體非定序預(yù)測(cè)裝置，其特征在于，用于實(shí)現(xiàn)抗體溶解度和聚集度的預(yù)測(cè)和改造、抗體人源化預(yù)測(cè)和改造、抗體表達(dá)量預(yù)測(cè)和改造、抗體抗原對(duì)接和抗原表面位預(yù)測(cè)、造抗體改造展示庫(kù)構(gòu)建或者抗體從頭設(shè)計(jì)，該裝置包括：

獲取模塊，用于獲取抗體數(shù)據(jù)庫(kù)，所述抗體數(shù)據(jù)庫(kù)為針對(duì)特定問題的抗體序列數(shù)據(jù)集合，所述針對(duì)特定問題的抗體序列數(shù)據(jù)集合為cab-rep人源數(shù)據(jù)庫(kù)、OAS人源數(shù)據(jù)庫(kù)或者INDI納米抗體序列庫(kù)中的一者或者多者的組合；

模型訓(xùn)練模塊，用于將所述抗體數(shù)據(jù)庫(kù)輸入非定序神經(jīng)網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練，直至誤差低于閾值或趨于穩(wěn)定時(shí)停止訓(xùn)練，得到訓(xùn)練好的抗體非定序預(yù)測(cè)模型，還用于：獲取相關(guān)抗體的蛋白質(zhì)數(shù)據(jù)或者相關(guān)抗體的同源蛋白質(zhì)的數(shù)據(jù)中的至少之一，把數(shù)據(jù)輸入神經(jīng)網(wǎng)絡(luò)，經(jīng)由神經(jīng)網(wǎng)絡(luò)得到相關(guān)抗體的全部氨基酸序列和相關(guān)抗體的同源蛋白質(zhì)的全部氨基酸序列的預(yù)測(cè)值，根據(jù)相關(guān)抗體全部氨基酸序列和相關(guān)抗體的同源蛋白質(zhì)的全部氨基酸序列的預(yù)測(cè)值，以及相關(guān)抗體的全部氨基酸序列和相關(guān)抗體的同源蛋白質(zhì)的全部氨基酸序列的真值，訓(xùn)練神經(jīng)網(wǎng)絡(luò)，其中所述非定序神經(jīng)網(wǎng)絡(luò)模型為廣義自回歸預(yù)訓(xùn)練注意力模型或者雙向生成式預(yù)訓(xùn)練注意力模型，所述非定序神經(jīng)網(wǎng)絡(luò)模型具體包括編碼模型和解碼模型：編碼模型和解碼模型分別包括至少一個(gè)注意力模塊；

應(yīng)用模塊，用于將待預(yù)測(cè)抗體局部信息輸入所述抗體非定序預(yù)測(cè)模型，得到所述待預(yù)測(cè)抗體的全部氨基酸序列的預(yù)測(cè)值或概率分布，還用于：通過(guò)采用編碼模型獲CDR-H1和CDR-H2的信息，通過(guò)采用解碼模型，預(yù)測(cè)CDR-H3的信息；進(jìn)一步考慮非互補(bǔ)決定區(qū)的骨架序列，通過(guò)編碼模型獲取整個(gè)骨架區(qū)序列信息并采用解碼模型預(yù)測(cè)CDR-H3信息：將待預(yù)測(cè)抗體和待預(yù)測(cè)抗體的同源蛋白質(zhì)的數(shù)據(jù)中的至少之一輸入編碼模型中的非定序自注意力模塊，經(jīng)由非定序自注意力模塊得到待預(yù)測(cè)抗體對(duì)應(yīng)的中間結(jié)果，然后將待預(yù)測(cè)抗體和待預(yù)測(cè)抗體的同源蛋白質(zhì)的數(shù)據(jù)中的至少之一以及中間結(jié)果輸入編碼模型中的非定序自注意力模塊，經(jīng)由非定序自注意力模塊得到待預(yù)測(cè)抗體對(duì)應(yīng)的全部氨基酸序列的預(yù)測(cè)值，將待預(yù)測(cè)抗體的部分區(qū)域的序列信息輸入非定序自注意力模塊，獲得該抗體未預(yù)測(cè)區(qū)域中的一個(gè)隨機(jī)位置的預(yù)測(cè)值，并將該預(yù)測(cè)值和上一輪輸入的部分區(qū)域的序列信息合并作為新一輪的輸入，輸入非定序自注意力模塊，重復(fù)以上過(guò)程直至獲得待預(yù)測(cè)抗體的全部區(qū)域的預(yù)測(cè)值，其中，待預(yù)測(cè)抗體信息包括如下內(nèi)容之一者或多者組合：待預(yù)測(cè)抗體的部分位點(diǎn)的氨基酸序列、待預(yù)測(cè)抗體的氨基酸序列長(zhǎng)度、待預(yù)測(cè)抗體的多個(gè)同源蛋白質(zhì)的氨基酸序列中氨基酸分布的概率信息。