[發(fā)明專利]一種微服務(wù)管理方法、裝置及系統(tǒng)

在審

• 申請?zhí)枺?/td>: 202010197134.2
• 申請日: 2020-03-19
• 公開（公告）號: CN111427674A
• 公開（公告）日: 2020-07-17
• 發(fā)明（設(shè)計(jì)）人: 韓珉
• 申請（專利權(quán)）人: 成都云盯科技有限公司
• 主分類號: G06F9/48
• 分類號: G06F9/48;G06F9/50;G06F11/30
• 代理公司: 北京細(xì)軟智谷知識(shí)產(chǎn)權(quán)代理有限責(zé)任公司 11471
• 代理人: 尚文文

本申請公開了一種微服務(wù)管理方法、裝置及系統(tǒng)。該方法中，在接收到服務(wù)請求后，從Tomcat線程池中選擇第一線程用于響應(yīng)該服務(wù)請求；根據(jù)服務(wù)請求所屬的業(yè)務(wù)類型從N個(gè)controller線程池中確定目標(biāo)controller線程池，目標(biāo)controller線程池包括M個(gè)線程；第二線程根據(jù)服務(wù)請求訪問目標(biāo)服務(wù)實(shí)例，其中第二線程為目標(biāo)controller線程池中任一線程；若第二線程在的預(yù)設(shè)超時(shí)時(shí)間內(nèi)訪問目標(biāo)服務(wù)實(shí)例失敗，則將目標(biāo)服務(wù)實(shí)例標(biāo)記為不可用，以使每個(gè)線程不再訪問目標(biāo)服務(wù)實(shí)例。該方案能夠避免在目標(biāo)服務(wù)實(shí)例異常時(shí)，系統(tǒng)不斷向該目標(biāo)實(shí)例發(fā)送請求，而這些重復(fù)的請求將會(huì)占用大量的時(shí)間與資源。

技術(shù)領(lǐng)域

本申請涉及計(jì)算機(jī)技術(shù)領(lǐng)域，尤其涉及一種微服務(wù)管理方法、裝置及系統(tǒng)。

背景技術(shù)

單一計(jì)算機(jī)的處理能力已經(jīng)不能滿足我們的需求，于是采用多臺(tái)計(jì)算機(jī)形 成分布式系統(tǒng)為用戶提供服務(wù)。分布式服務(wù)系統(tǒng)在對外提供服務(wù)的過程中，能 夠分解處理壓力，提高性能并提高服務(wù)的可用性。

圖1為示例性的給出了一種分布式系統(tǒng)訪問流程示意圖，如圖所示，在接 收到用戶的服務(wù)請求后，確定用于響應(yīng)該服務(wù)請求的controller，確定出的 controller根據(jù)服務(wù)請求向目標(biāo)服務(wù)實(shí)例發(fā)送訪問請求，以獲取用戶所需數(shù)據(jù)。 若controller根據(jù)服務(wù)請求確定向服務(wù)實(shí)例B發(fā)送訪問請求以獲取相應(yīng)數(shù)據(jù)， 而服務(wù)實(shí)例B發(fā)生異常，無法正常響應(yīng)controller，故controller將重復(fù)項(xiàng) 服務(wù)實(shí)例B發(fā)送請求，將會(huì)占用大量資源并影響其他業(yè)務(wù)處理，在高并發(fā)情況 下可能會(huì)導(dǎo)致資源耗盡進(jìn)而導(dǎo)致系統(tǒng)崩潰。

發(fā)明內(nèi)容

本申請實(shí)施例提供一種微服務(wù)管理方法、裝置及系統(tǒng)，用于實(shí)現(xiàn)全線程隔 離，有助于避免由于一個(gè)服務(wù)實(shí)例異常導(dǎo)致系統(tǒng)雪崩的情況發(fā)生。

第一方面，本申請實(shí)施例提供了一種微服務(wù)管理方法，包括：

接收用戶的服務(wù)請求；

從Tomcat線程池中選擇第一線程用于響應(yīng)所述服務(wù)請求；

根據(jù)所述服務(wù)請求所屬的業(yè)務(wù)類型從N個(gè)controller線程池中確定目標(biāo)controller線程池，所述目標(biāo)controller線程池包括M個(gè)線程，N、M為大于 等于1的整數(shù)；

第二線程根據(jù)所述服務(wù)請求訪問目標(biāo)服務(wù)實(shí)例，所述第二線程為所述目標(biāo)controller線程池中任一線程；

若所述第二線程在的預(yù)設(shè)超時(shí)時(shí)間內(nèi)訪問目標(biāo)服務(wù)實(shí)例失敗，則將所述目 標(biāo)服務(wù)實(shí)例標(biāo)記為不可用，以使所述N個(gè)controller線程池中的每個(gè)線程不 再訪問所述服務(wù)實(shí)例。

在一種可能的實(shí)現(xiàn)方式中，上述方法還包括：

若所述第二線程程序運(yùn)行故障，且在所述線程池對應(yīng)的預(yù)設(shè)超時(shí)時(shí)間內(nèi)未 恢復(fù)，則釋放所述第二線程。

在一種可能的實(shí)現(xiàn)方式中，上述方法還包括：

確定所述第二線程異常原因，向用戶輸出所述異常原因。

在一種可能的實(shí)現(xiàn)方式中，確定所述第二線程異常原因，包括：

根據(jù)所述第二線程輸出的超文本傳輸協(xié)議HTTP消息中包含的異常原因代 碼確定異常原因。

在一種可能的實(shí)現(xiàn)方式中，所述預(yù)設(shè)超時(shí)時(shí)間，為所述目標(biāo)controller 線程池對應(yīng)的超時(shí)時(shí)間，或者，為所述目標(biāo)controller線程池與所述目標(biāo)服 務(wù)實(shí)例對應(yīng)的超時(shí)時(shí)間。

在一種可能的實(shí)現(xiàn)方式中，所述M的取值根據(jù)CPU的數(shù)量、CPU的使用率、 所述預(yù)設(shè)超時(shí)時(shí)間以及預(yù)設(shè)的理想消耗時(shí)間確定；或者

所述M的取值根據(jù)當(dāng)前負(fù)載大小和線程上限值確定；或者

所述M為預(yù)設(shè)的常數(shù)。