[發(fā)明專利]一種統(tǒng)一服務(wù)的限流熔斷平臺(tái)及其方法

有效

• 申請(qǐng)?zhí)枺?/td>: 202010558659.4
• 申請(qǐng)日: 2020-06-18
• 公開(kāi)（公告）號(hào): CN111787073B
• 公開(kāi)（公告）日: 2023-08-22
• 發(fā)明（設(shè)計(jì)）人: 廖世友
• 申請(qǐng)（專利權(quán)）人: 龐茂林
• 主分類號(hào): H04L67/1004
• 分類號(hào): H04L67/1004;H04L43/0823;H04L41/0631;H04L43/10;H04L9/40
• 代理公司: 暫無(wú)信息
• 代理人: 暫無(wú)信息

1.一種統(tǒng)一服務(wù)的限流熔斷平臺(tái)，包括客戶端、負(fù)載均衡器、熔斷器、服務(wù)節(jié)點(diǎn)、ES集群、展示模塊、監(jiān)控?cái)?shù)據(jù)模塊、預(yù)警模塊，

客戶端通過(guò)統(tǒng)一標(biāo)準(zhǔn)接口與負(fù)載均衡器連接，負(fù)載均衡器的數(shù)據(jù)經(jīng)過(guò)網(wǎng)關(guān)限流分配給服務(wù)節(jié)點(diǎn)，ES集群自動(dòng)在收集服務(wù)節(jié)點(diǎn)的響應(yīng)數(shù)據(jù)，服務(wù)節(jié)點(diǎn)出現(xiàn)異常或服務(wù)節(jié)點(diǎn)負(fù)載量過(guò)大或響應(yīng)時(shí)間超時(shí)的時(shí)候，服務(wù)節(jié)點(diǎn)馬上進(jìn)入限流熔斷響應(yīng)，同時(shí)限流熔斷響應(yīng)被實(shí)時(shí)送到監(jiān)控?cái)?shù)據(jù)模塊的報(bào)警隊(duì)列中，監(jiān)控?cái)?shù)據(jù)模塊存儲(chǔ)有服務(wù)器狀態(tài)、進(jìn)程狀態(tài)、數(shù)據(jù)庫(kù)狀態(tài)，滿足限流熔斷條件時(shí)，預(yù)警模塊會(huì)實(shí)時(shí)發(fā)出報(bào)警信息，在第一次滿足限流熔斷條件時(shí)，通過(guò)郵件的方式進(jìn)行預(yù)警，在第二次滿足限流熔斷條件時(shí)，預(yù)警模塊通過(guò)短信、微信和向總負(fù)責(zé)人發(fā)送緊急郵件的方式進(jìn)行預(yù)警；限流熔斷是指在調(diào)用鏈路中出現(xiàn)某個(gè)資源不穩(wěn)定狀態(tài)時(shí)，平臺(tái)對(duì)這個(gè)資源調(diào)用進(jìn)行限制，讓請(qǐng)求快速失敗，避免影響到其它的資源而導(dǎo)致系統(tǒng)級(jí)聯(lián)錯(cuò)誤、甚至導(dǎo)致系統(tǒng)級(jí)宕機(jī)；客戶端為手機(jī)、PC或者POS機(jī)；負(fù)載均衡器為Nginx負(fù)載均衡器；

其中，負(fù)載均衡器和服務(wù)節(jié)點(diǎn)之間配置有熔斷器，且處在啟用狀態(tài)，熔斷器采用Sentinel構(gòu)成服務(wù)的限流熔斷，Sentinel基于多種不同的服務(wù)節(jié)點(diǎn)形成一個(gè)鏈表，每個(gè)服務(wù)節(jié)點(diǎn)都各司其職，自己做完分內(nèi)的事之后，會(huì)把請(qǐng)求傳遞給下一個(gè)服務(wù)節(jié)點(diǎn)，直到在某一個(gè)服務(wù)節(jié)點(diǎn)的服務(wù)滿足限流熔斷條件后，拋出阻塞異常而終止傳遞，Sentinel通過(guò)服務(wù)節(jié)點(diǎn)鏈完成了對(duì)每個(gè)服務(wù)節(jié)點(diǎn)的入口方法的調(diào)用，每個(gè)服務(wù)節(jié)點(diǎn)會(huì)根據(jù)創(chuàng)建的規(guī)則，進(jìn)行自己的邏輯處理，當(dāng)統(tǒng)計(jì)的結(jié)果達(dá)到設(shè)置的閾值時(shí)，就會(huì)觸發(fā)限流、熔斷事件；例如拋出阻塞異常；

Sentinel與SpringCloud框架(Spring服務(wù)套件)集成一起，在SpringCloud框架的擴(kuò)展點(diǎn)上增加Sentinel的相關(guān)降級(jí)、熔斷的代碼，當(dāng)集群服務(wù)器中某一臺(tái)或幾臺(tái)服務(wù)器出現(xiàn)負(fù)載量過(guò)大或長(zhǎng)時(shí)間沒(méi)有健康響應(yīng)時(shí)，Sentinel熔斷機(jī)制開(kāi)始啟用，從而達(dá)到保護(hù)支付鏈路自動(dòng)切換服務(wù)高穩(wěn)定性和高可用性的目的；

其中7種服務(wù)節(jié)點(diǎn)的功能職責(zé)如下：

1.NodeSelectorSlot負(fù)責(zé)收集資源的路徑，并將這些資源的調(diào)用路徑，以樹(shù)狀結(jié)構(gòu)存儲(chǔ)起來(lái)，用于根據(jù)調(diào)用路徑來(lái)限流降級(jí)；

2.ClusterBuilderSlot則用于存儲(chǔ)資源的統(tǒng)計(jì)信息以及調(diào)用者信息，如RT(運(yùn)行時(shí)間),QPS(每秒查詢數(shù)),thread?count(線程數(shù)量)，這些信息將用作為多維度限流，降級(jí)的依據(jù)；

3.StatistcSlot則用于記錄，統(tǒng)計(jì)不同緯度的RunTime(運(yùn)行時(shí)間)信息；

4.FlowSlot則用于根據(jù)預(yù)設(shè)的限流規(guī)則，以及前面節(jié)點(diǎn)統(tǒng)計(jì)的狀態(tài)，來(lái)進(jìn)行限流；

5.AuthorizationSlot則根據(jù)黑白名單，做黑白名單控制；

6.DegradeSlot則通過(guò)統(tǒng)計(jì)信息，以及預(yù)設(shè)的規(guī)則，做熔斷降級(jí)；

7.SystemSlot則通過(guò)系統(tǒng)的狀態(tài)，控制總的入口流量；

前3個(gè)節(jié)點(diǎn)負(fù)責(zé)做統(tǒng)計(jì)，后面的4個(gè)負(fù)責(zé)根據(jù)統(tǒng)計(jì)的結(jié)果結(jié)合配置的規(guī)則進(jìn)行具體的控制，是阻塞該請(qǐng)求還是放行；

平臺(tái)衡量被訪問(wèn)的資源是否處理穩(wěn)定的狀態(tài)的三個(gè)標(biāo)準(zhǔn)，分別為平均響應(yīng)時(shí)間、異常比例以及異常數(shù)：當(dāng)滿足這三個(gè)標(biāo)準(zhǔn)之一時(shí)，系統(tǒng)中某個(gè)服務(wù)就進(jìn)入降級(jí)熔斷狀態(tài)；

平均響應(yīng)時(shí)間：當(dāng)資源的平均響應(yīng)時(shí)間超過(guò)閾值(配置設(shè)置，以ms為單位)之后，資源進(jìn)入準(zhǔn)降級(jí)狀態(tài)，后續(xù)其它5個(gè)請(qǐng)求，平均響應(yīng)時(shí)間超過(guò)這個(gè)閾值，對(duì)這個(gè)服務(wù)的調(diào)用自動(dòng)全部返回；

異常比例：當(dāng)資源的每秒異常總數(shù)占通過(guò)量的比值超過(guò)閾值(配置設(shè)置)之后，資源進(jìn)入降級(jí)狀態(tài)；

異常數(shù)：當(dāng)資源近1分鐘的異常數(shù)目超過(guò)閾值(配置設(shè)置)之后會(huì)進(jìn)行熔斷；

通過(guò)適配器的方式，Sentinel與SpringCloud框架(Spring服務(wù)套件)集成一起，在SpringCloud框架的擴(kuò)展點(diǎn)上增加Sentinel的相關(guān)限流、熔斷的代碼，當(dāng)集群服務(wù)器中某一臺(tái)或幾臺(tái)服務(wù)器出現(xiàn)負(fù)載量過(guò)大或長(zhǎng)時(shí)間沒(méi)有健康響應(yīng)時(shí)，Sentinel熔斷機(jī)制開(kāi)始啟用，從而達(dá)到保護(hù)支付鏈路自動(dòng)切換服務(wù)高穩(wěn)定性和高可用性的目的；

ES集群部署有Filebeat和Logstash，F(xiàn)ilebeat和Logstash收集系統(tǒng)和服務(wù)間的響應(yīng)數(shù)據(jù)，當(dāng)系統(tǒng)中某個(gè)服務(wù)滿足限流熔斷的閾值之后，服務(wù)馬上進(jìn)入限流熔斷響應(yīng)，同時(shí)這些閾值數(shù)據(jù)被實(shí)時(shí)送到監(jiān)控系統(tǒng)的報(bào)警隊(duì)列中，系統(tǒng)會(huì)實(shí)時(shí)發(fā)出報(bào)警信息：日志、郵件、短信等；

Filebeat嵌入到各個(gè)集群服務(wù)器上，通過(guò)過(guò)濾，采集各個(gè)集群服務(wù)器上業(yè)務(wù)數(shù)據(jù)，而Logstash則負(fù)責(zé)將通過(guò)數(shù)據(jù)收集引擎和數(shù)據(jù)管道將日志信息存儲(chǔ)到ElasticSearch，ElasticSearch對(duì)收集到系統(tǒng)信息進(jìn)行存儲(chǔ)和構(gòu)建搜索索引庫(kù)；

其中，F(xiàn)ilebeat是輕量級(jí)日志收集器，是Beats的一種，收集日志文件數(shù)據(jù)，當(dāng)啟動(dòng)Filebeat時(shí)，將啟動(dòng)一個(gè)或多個(gè)輸入源用來(lái)監(jiān)控事先指定的日志文件位置，對(duì)于Filebeat定位到的每個(gè)日志文件，F(xiàn)ilebeat將為其啟動(dòng)一個(gè)收集器(harvester)，每個(gè)收集器實(shí)時(shí)讀取日志文件的增量數(shù)據(jù)，并將增量數(shù)據(jù)發(fā)送到Libbeat，Libbeat把所有的增量數(shù)據(jù)聚合起來(lái)，然后將這些數(shù)據(jù)統(tǒng)一發(fā)送到預(yù)先配置好的輸出源；

Logstash是數(shù)據(jù)收集引擎，具備實(shí)時(shí)管道處理能力，Logstash作為數(shù)據(jù)源與數(shù)據(jù)存儲(chǔ)分析工具之間的橋梁，結(jié)合ElasticSearch以及Kibana，能夠極大方便數(shù)據(jù)的處理與分析；

ES集群即ElasticSearch集群，ElasticSearch基于RESTfulweb接口且構(gòu)建在ApacheLucene之上的開(kāi)源分布式搜索引擎，ElasticSearch具有分布式文檔數(shù)據(jù)庫(kù)，對(duì)集群服務(wù)器進(jìn)行部署，其中，分布式文檔數(shù)據(jù)庫(kù)的每個(gè)字段均可被索引，而且每個(gè)字段的數(shù)據(jù)均可被搜索，能夠橫向擴(kuò)展至數(shù)以百計(jì)的服務(wù)器存儲(chǔ)以及處理PB級(jí)的數(shù)據(jù)，ElasticSearch可以在極短的時(shí)間內(nèi)存儲(chǔ)、搜索和分析大量的數(shù)據(jù)；

原始數(shù)據(jù)從多個(gè)來(lái)源(包括日志、系統(tǒng)指標(biāo)和網(wǎng)絡(luò)應(yīng)用程序)輸入到ElasticSearch中，ElasticSearch進(jìn)行數(shù)據(jù)采集，在ElasticSearch中進(jìn)行索引之前的解析、標(biāo)準(zhǔn)化并充實(shí)原始數(shù)據(jù)，原始數(shù)據(jù)在ElasticSearch中索引完成之后，用戶便可運(yùn)行復(fù)雜的查詢，并使用聚合來(lái)檢索自身數(shù)據(jù)的復(fù)雜匯總，還能使用聚合來(lái)檢索自身數(shù)據(jù)的復(fù)雜匯總，在Kibana中，用戶可以基于自己的數(shù)據(jù)創(chuàng)建強(qiáng)大的可視化，分享儀表板，并對(duì)ElasticStack進(jìn)行管理；

ElasticStack是ElasticSearch的核心組件，ElasticStack是適用于數(shù)據(jù)采集、充實(shí)、存儲(chǔ)、分析和可視化的一組開(kāi)源工具；負(fù)載平衡器采用Spring?Cloud?Ribbon，所有熔斷和限流的關(guān)鍵指標(biāo)數(shù)據(jù)都會(huì)在dashboard展示，Spring?Cloud?Ribbon是一個(gè)基于HTTP和TCP的客戶端負(fù)載均衡工具，它基于Netflix?Ribbon實(shí)現(xiàn)；通過(guò)Spring?Cloud的封裝，面向服務(wù)的REST模版請(qǐng)求自動(dòng)轉(zhuǎn)換成客戶端負(fù)載均衡的服務(wù)調(diào)用；Spring?Cloud?Ribbon存在于每一個(gè)Spring?Cloud構(gòu)建的微服務(wù)和基礎(chǔ)設(shè)施中。因?yàn)槲⒎?wù)間的調(diào)用，API網(wǎng)關(guān)的請(qǐng)求轉(zhuǎn)發(fā)等內(nèi)容，實(shí)際上都是通過(guò)Ribbon來(lái)實(shí)現(xiàn)的。dashboard是商業(yè)智能儀表盤(pán)的簡(jiǎn)稱，是實(shí)現(xiàn)數(shù)據(jù)可視化的模塊，是數(shù)據(jù)虛擬化工具；預(yù)警模塊通過(guò)GPE進(jìn)行監(jiān)控報(bào)警，GPE是Grafana、Prometheus、Exporter的簡(jiǎn)稱，平臺(tái)加入了注冊(cè)中心做服務(wù)發(fā)現(xiàn)，實(shí)現(xiàn)動(dòng)態(tài)添加服務(wù)，使用郵件、釘釘以及Webhook實(shí)現(xiàn)異常告警，其中，Grafana是一個(gè)開(kāi)箱即用的可視化工具；Prometheus是一個(gè)開(kāi)源的服務(wù)監(jiān)控系統(tǒng)，通過(guò)HTTP協(xié)議從遠(yuǎn)程的機(jī)器收集數(shù)據(jù)并存儲(chǔ)在本地的時(shí)序數(shù)據(jù)庫(kù)上；Exporter是Prometheus監(jiān)控中重要的組成部分，負(fù)責(zé)數(shù)據(jù)指標(biāo)的采集，部署在客戶端的Agent；

GPE工作流程如下，Exporter組件注冊(cè)到注冊(cè)中心；Prometheus拉取注冊(cè)中心中的服務(wù)器；Exporter組件獲取服務(wù)器或者系統(tǒng)軟件的指標(biāo)；Grafana配置Prometheus數(shù)據(jù)源獲取其采集數(shù)據(jù)結(jié)合自定義面板實(shí)現(xiàn)監(jiān)控大屏；Grafana通過(guò)設(shè)置Alerting實(shí)現(xiàn)監(jiān)控預(yù)警；

GPE實(shí)現(xiàn)了平臺(tái)的預(yù)警機(jī)制和心跳檢測(cè)機(jī)制；客戶端與平臺(tái)的通信采用Netty的Socket長(zhǎng)連接和Nio無(wú)阻礙傳輸，

Netty使用Socket長(zhǎng)連接可以省去較多的TCP建立/關(guān)閉的操作，減少浪費(fèi)，節(jié)省時(shí)間，對(duì)于頻繁請(qǐng)求資源的客戶，較適用于長(zhǎng)連接；Client和Server如果長(zhǎng)時(shí)間不關(guān)閉的話，會(huì)存在一個(gè)問(wèn)題：隨著客戶的越來(lái)越多，Server的資源會(huì)被消耗完；

針對(duì)長(zhǎng)連接的缺點(diǎn)，可以通過(guò)建立分發(fā)服務(wù)器來(lái)解決，具體方案如下：

S1.設(shè)備請(qǐng)求分發(fā)服務(wù)器，分發(fā)服務(wù)器返回有效的Socket服務(wù)器IP與Port，然后斷開(kāi)連接；

S2.設(shè)備得到IP與Port以后，設(shè)備去連接Socket服務(wù)器，然后與其進(jìn)行協(xié)議通訊；

S3.若設(shè)備未收到連接成功響應(yīng)則再次嘗試連接，若三次請(qǐng)求依舊沒(méi)有成功建立連接，那么設(shè)備需要去請(qǐng)求分發(fā)服務(wù)器然后再重新上述操作；

可以輕松的解決設(shè)備與服務(wù)器頻繁通訊的問(wèn)題；

Nio是否阻塞的IO處理，主要有三大核心部分：Channel(通道)，Buffer(緩沖區(qū)),Selector(選擇區(qū))，Nio基于Channel和Buffer(緩沖區(qū))進(jìn)行操作，數(shù)據(jù)總是從通道讀取到緩沖區(qū)中，或者從緩沖區(qū)寫(xiě)入到通道中。Selector(選擇區(qū))用于監(jiān)聽(tīng)多個(gè)通道的事件。單個(gè)線程可以監(jiān)聽(tīng)多個(gè)數(shù)據(jù)通道；

在啟用任何有效的支付通道的時(shí)候，需要在其初始化過(guò)程中，通過(guò)Socket長(zhǎng)鏈接與對(duì)應(yīng)的支付通道建立通信關(guān)系，獲取當(dāng)前設(shè)備的相關(guān)參數(shù)，同時(shí)與平臺(tái)服務(wù)器的接口間獲取相關(guān)數(shù)據(jù)，其中的IO處理是通過(guò)Nio來(lái)進(jìn)行的；用戶通過(guò)服務(wù)網(wǎng)關(guān)登錄平臺(tái)，服務(wù)網(wǎng)關(guān)通過(guò)SC?Gateway進(jìn)行網(wǎng)關(guān)限流并通過(guò)JWT/Oauth2認(rèn)證，SC?Gateway是指Spring?Cloud?Gateway服務(wù)網(wǎng)關(guān)，Spring?Cloud?Gateway是Spring?Cloud新推出的網(wǎng)關(guān)框架，網(wǎng)關(guān)通常在項(xiàng)目中為了簡(jiǎn)化前端的調(diào)用邏輯，同時(shí)也簡(jiǎn)化內(nèi)部服務(wù)之間互相調(diào)用的復(fù)雜度；具體作用就是轉(zhuǎn)發(fā)服務(wù)，接收并轉(zhuǎn)發(fā)所有內(nèi)外部的客戶端調(diào)用；其他常見(jiàn)的功能還有權(quán)限認(rèn)證和限流控制；

JWT(JSON?Web?Token)是一個(gè)開(kāi)放標(biāo)準(zhǔn)(RFC?7519)，定義了一種協(xié)議，以自包含的JSON格式在兩點(diǎn)之間安全地傳輸信息。被傳輸?shù)男畔⑹强梢员蛔C實(shí)、被信任的，因?yàn)樗褂昧藬?shù)字簽名。JWT能夠通過(guò)使用公鑰/秘鑰對(duì)算法來(lái)進(jìn)行數(shù)字簽名。Oath2本身就是授權(quán)協(xié)議；SCGateway服務(wù)網(wǎng)關(guān)是一個(gè)服務(wù)組件，為應(yīng)用程序提供路由和過(guò)濾，將接收客戶端的請(qǐng)求轉(zhuǎn)發(fā)到服務(wù)模塊，并完成跨領(lǐng)域功能，如服務(wù)安全、日志記錄和用戶跟蹤，SCGateway服務(wù)網(wǎng)關(guān)充當(dāng)單個(gè)策略實(shí)施點(diǎn)，所有呼叫都通過(guò)SCGateway服務(wù)網(wǎng)關(guān)的路由，然后到達(dá)最終目的地。因?yàn)镾CGateway服務(wù)網(wǎng)關(guān)位于從客戶端到每個(gè)服務(wù)的所有呼叫之間，所以它也是服務(wù)呼叫的中央策略執(zhí)行點(diǎn)；

SCGateway服務(wù)網(wǎng)關(guān)具有熔斷器，熔斷器用于交互超時(shí)處理和容錯(cuò)，熔斷器由保險(xiǎn)絲和線程池組成，如果交換機(jī)處于打開(kāi)狀態(tài)，則不會(huì)調(diào)用線程池而是調(diào)用降級(jí)服務(wù)，熔斷器根據(jù)狀態(tài)產(chǎn)生對(duì)應(yīng)的動(dòng)作，熔斷器處于關(guān)閉狀態(tài)，如果調(diào)用失敗次數(shù)積累到了閾值(或一定比例)就啟動(dòng)；熔斷器處于打開(kāi)狀態(tài)，在這個(gè)狀態(tài)下對(duì)下游服務(wù)的調(diào)用都內(nèi)部直接返回異常，不走網(wǎng)絡(luò)，但會(huì)設(shè)置了一個(gè)時(shí)鐘選項(xiàng)，一般設(shè)置平均故障處理時(shí)間，到了這個(gè)時(shí)間，就會(huì)進(jìn)入半熔斷狀態(tài)；在半熔斷狀態(tài)，允許一定數(shù)量的服務(wù)請(qǐng)求，如果調(diào)用都不會(huì)出現(xiàn)失敗的情況則認(rèn)為恢復(fù)了，關(guān)閉熔斷器；

熔斷器起到道線程隔離作用，線程池位于用戶請(qǐng)求和服務(wù)之間，用戶的請(qǐng)求通過(guò)線程池中的空閑線程來(lái)訪問(wèn)服務(wù)，如果線程池沒(méi)有空閑的線程則會(huì)進(jìn)行降級(jí)處理，降級(jí)處理的作用是防止用戶的請(qǐng)求進(jìn)入無(wú)休止的等待從而導(dǎo)致系統(tǒng)崩潰，請(qǐng)求不會(huì)被阻塞，而是可以看到一個(gè)執(zhí)行結(jié)果；

熔斷的實(shí)現(xiàn)包括如下步驟：

S1.在maven中引入斷路器組件依賴項(xiàng)；

S2.在主引導(dǎo)啟動(dòng)程序上添加熔斷注解；

S3.在需要保護(hù)的遠(yuǎn)程調(diào)用方法上用注解標(biāo)注；

S4.判斷是否需要進(jìn)行服務(wù)降級(jí)，是則進(jìn)行降級(jí)策略實(shí)現(xiàn)；

其中，SCGateway服務(wù)網(wǎng)關(guān)在用戶量多的時(shí)刻會(huì)面對(duì)高并發(fā)的場(chǎng)景，啟動(dòng)限流控制，限流的作用就是在當(dāng)系統(tǒng)無(wú)法處理更多請(qǐng)求的情況下，將超出的請(qǐng)求采用拒絕的措施，保證負(fù)荷不超過(guò)系統(tǒng)處理的上限；

ES集群還部署有Kafka,Listener和RocketMQ，以確保服務(wù)監(jiān)聽(tīng)消息準(zhǔn)確性和實(shí)時(shí)性，

Kafka是分布式的、支持分區(qū)的、多副本的、基于Zookeeper協(xié)調(diào)的分布式消息系統(tǒng)，可實(shí)時(shí)的處理大量數(shù)據(jù)以滿足各種需求場(chǎng)景；

Listener通過(guò)使用@KafkaListener注解來(lái)監(jiān)聽(tīng)Kafka的消息，然后在該方法里面進(jìn)行消費(fèi)，無(wú)需關(guān)心Kafka的具體實(shí)現(xiàn)，添加Topics到配置值文件即可實(shí)現(xiàn)；

RocketMQ是MQ消息中間件產(chǎn)品，是分布式的、隊(duì)列模型的消息中間件，能處理異步分布式事務(wù)的處理和消息處理，能夠保證嚴(yán)格的消息順序；提供消息拉取模式；訂閱者水平擴(kuò)展；實(shí)時(shí)的消息訂閱機(jī)制；億級(jí)消息堆積；提供Docker鏡像用于隔離測(cè)試和云集群部署；

Kafka收集平臺(tái)的日志、各種服務(wù)的Log，通過(guò)Kafka以統(tǒng)一接口服務(wù)的方式開(kāi)放給各種用戶來(lái)消費(fèi)；

RocketMQ監(jiān)聽(tīng)支付通道端口狀態(tài)，通過(guò)消息完成消息通知、狀態(tài)更新、發(fā)送和接收本地事務(wù)消息，同時(shí)對(duì)于多個(gè)服務(wù)之間的獨(dú)自數(shù)據(jù)更新采用Seata和RocketMQ來(lái)實(shí)現(xiàn)事務(wù)控制；

其中，負(fù)載均衡器把請(qǐng)求任務(wù)按照某種策略分配到服務(wù)節(jié)點(diǎn)，為了確保負(fù)載均衡器能真實(shí)準(zhǔn)確地獲取服務(wù)節(jié)點(diǎn)的實(shí)時(shí)處理能力，需要對(duì)影響服務(wù)節(jié)點(diǎn)的處理能力因素進(jìn)行分析。由于負(fù)載均衡模塊對(duì)服務(wù)節(jié)點(diǎn)進(jìn)行參數(shù)的采集時(shí)，如果參數(shù)過(guò)多會(huì)對(duì)負(fù)載均衡節(jié)點(diǎn)和服務(wù)節(jié)點(diǎn)造成一定的資源損耗。為了避免采集服務(wù)節(jié)點(diǎn)的實(shí)時(shí)參數(shù)過(guò)程對(duì)系統(tǒng)的性能造成影響，決定以影響服務(wù)器節(jié)點(diǎn)的兩個(gè)主要核心因素作為實(shí)時(shí)負(fù)載能力的指標(biāo)，分別是處理器利用率和內(nèi)存空閑率；

包括如下步驟：

S1.負(fù)載均衡器和服務(wù)節(jié)點(diǎn)的通信方式的實(shí)現(xiàn)采用Socket接口進(jìn)行通信，為降低通信帶來(lái)的資源損耗問(wèn)題，采用對(duì)資源要求較少的UDP作為傳輸協(xié)議；

S2.負(fù)載均衡器周期性向服務(wù)節(jié)點(diǎn)發(fā)送采集請(qǐng)求，計(jì)算得出服務(wù)節(jié)點(diǎn)的處理器利用率和內(nèi)存空閑率；

處理器分為三種運(yùn)行狀態(tài)，分別是空閑態(tài)，用戶態(tài)和系統(tǒng)內(nèi)核態(tài)，用T1表示空閑態(tài)的運(yùn)行時(shí)間，T2表示用戶態(tài)的運(yùn)行時(shí)間，T3表示內(nèi)核態(tài)的運(yùn)行時(shí)間，則處理器利用率C_i計(jì)算公式如下：

通過(guò)系統(tǒng)文件可查出當(dāng)前服務(wù)節(jié)點(diǎn)的總內(nèi)存total大小，緩沖區(qū)buffers大小，緩存區(qū)cached大小，空閑內(nèi)存free大小，內(nèi)存空閑率M_i計(jì)算如公式如下：

S3.進(jìn)行服務(wù)節(jié)點(diǎn)權(quán)重的計(jì)算，

對(duì)于多個(gè)服務(wù)節(jié)點(diǎn)N_i，用集合Node＝{N₁,N₂,...,N_i,...,N_n}表示，對(duì)于服務(wù)節(jié)點(diǎn)N_i的處理器利用率用C_i表示，內(nèi)存空閑率用M_i表示，權(quán)重用W_i表示，服務(wù)節(jié)點(diǎn)N_i的權(quán)重表達(dá)函數(shù)F_i如下：F_i＝λ₁(1-C_i)+λ₂M_i；

其中λ₁+λ₂＝1，λ₁和λ₂表示處理器和內(nèi)存的影響因子，C_i和M_i的值都處于區(qū)間[0,1]范圍內(nèi)，當(dāng)1-C_i和M_i都為0時(shí)，F(xiàn)_i為0，表示服務(wù)節(jié)點(diǎn)處于不可用狀態(tài)，將不會(huì)對(duì)其進(jìn)行任務(wù)的分配，當(dāng)滿足負(fù)載權(quán)重差值時(shí)，W_i＝F_i；

其中，優(yōu)選λ₁＝0.6，λ₂＝0.4；

S4.新權(quán)重值與舊值進(jìn)行邊界條件分析，在邊界值P設(shè)定下，對(duì)于服務(wù)節(jié)點(diǎn)權(quán)重W_i的更新，需滿足下式：

其中，0＜P＜1，

當(dāng)滿足邊界條件時(shí)，則調(diào)用setsockopt函數(shù)將新的權(quán)重寫(xiě)入負(fù)載均衡器的負(fù)載配置表，并重新分配負(fù)載任務(wù)，否則按照之前的負(fù)載均衡對(duì)任務(wù)進(jìn)行轉(zhuǎn)發(fā)分配。

2.一種如權(quán)利要求1任意一項(xiàng)所述的統(tǒng)一服務(wù)的限流熔斷平臺(tái)的統(tǒng)一服務(wù)的限流熔斷方法，包括如下步驟：

S1.用戶通過(guò)客戶端登錄平臺(tái)開(kāi)始配置服務(wù),在服務(wù)網(wǎng)關(guān)上啟動(dòng)服務(wù)限流和熔斷,配置完成之后，服務(wù)生效；

S1.1.設(shè)置熔斷規(guī)則，包括平均響應(yīng)時(shí)間、異常比例和異常數(shù)；

S1.2.增加訪問(wèn)控制，增加限流熔斷的服務(wù)范圍；

S1.3.增加負(fù)載均衡，負(fù)載均衡器設(shè)置負(fù)載均衡，讓請(qǐng)求節(jié)點(diǎn)均衡分布，減少服務(wù)器的壓力；

S2.啟動(dòng)日志收集器，通過(guò)Filebeat/Logstash收集系統(tǒng)日志；

S3.用ES集群的API配置Prometheus數(shù)據(jù)源，通過(guò)配置，Prometheus抓取數(shù)據(jù)和存儲(chǔ)時(shí)序數(shù)據(jù)，并提供給GPE預(yù)警模塊；

S3.1.Exporter注冊(cè)組件,獲取當(dāng)前主機(jī)的資源使用情況；

S3.2.建立存儲(chǔ)規(guī)則和索引：ES集群存儲(chǔ)所有信息且建立對(duì)應(yīng)索引；

S3.3.Prometheus拉取服務(wù)器，服務(wù)器主動(dòng)向客戶端拉取數(shù)據(jù)；

S4.監(jiān)聽(tīng)訪問(wèn)資源是否穩(wěn)定，監(jiān)聽(tīng)系統(tǒng)平均響應(yīng)時(shí)間、異常比例和異常數(shù)；

S4.1.啟動(dòng)熔斷機(jī)制，當(dāng)監(jiān)聽(tīng)到S4的3項(xiàng)不穩(wěn)定因素出現(xiàn)任何一項(xiàng)時(shí)，系統(tǒng)啟動(dòng)熔斷機(jī)制，該服務(wù)節(jié)點(diǎn)暫停；

S4.2.返回異常數(shù)據(jù)：返回監(jiān)控異常數(shù)據(jù)，包括網(wǎng)關(guān)限流、黑名單。