[發明專利]一種內容分發網絡緩存節點的熱點均衡方法及系統

有效

• 申請號: 202011259526.3
• 申請日: 2020-11-12
• 公開（公告）號: CN112104752B
• 公開（公告）日: 2021-02-26
• 發明（設計）人: 吳信誼;姜智;余小偉
• 申請（專利權）人: 上海七牛信息技術有限公司
• 主分類號: H04L29/08
• 分類號: H04L29/08
• 代理公司: 上海碩力知識產權代理事務所(普通合伙) 31251
• 代理人: 郭桂峰

本發明公開一種內容分發網絡緩存節點的熱點均衡方法，該方法應用于內容分發網絡的邊緣節點系統，所述邊緣節點系統包括網關、緩存節點、回源模塊，所述緩存節點至少有兩個，其中，所述方法包括以下步驟，所述方法包括接收并解析客戶端的請求鏈接；于所述請求鏈接，獲取第一緩存節點；構建緩存請求，將所述緩存請求轉發給所述第一緩存節點處理；接收返回的緩存數據，將所述緩存數據返回給客戶端。本發明還公開一種內容分發網絡緩存節點的熱點均衡的系統，利用本發明公開的方法和系統，使得內容分發網絡服務具備過載保護、熱點均衡的能力，降低了服務單點失效的風險，提高了服務的高可用性，故具有明顯的技術優勢和有益效果。

技術領域

本發明涉及內容分發網絡領域，尤其涉及一種內容分發網絡緩存節點的熱點均衡方法及系統。

背景技術

通常一個內容分發網絡的邊緣節點的組成包含網關、緩存模塊和回源模塊。其中，網關首先會具備訪問權限控制，其次具備限流限量的控制，最后通過一致性hash算法，將url（uniform resource locator）請求轉發給緩存模塊；而緩存模塊通常是負責將其他內容分發網絡的響應數據緩存下來，當一個url訪問緩存模塊，緩存模塊首先會查詢其節點上是否保存有該url的緩存數據，如果不存在，則將請求轉發給回源模塊；回源模塊主要是負責將url請求轉發給源站或者其他內容分發網絡，并獲取響應數據，并響應給緩存模塊。

現有的內容分發網關的負載均衡一般是這樣實現的：當接收到客戶端向內容分發網絡節點發來請求鏈接，內容分發網絡網關模塊判斷該域名是否具有訪問內容分發網絡的權限，如該域名具備訪問權限，則將該url推入負載均衡器，負載均衡器根據一致性hash算法以及熱點均衡策略，將該url發送到其中一個緩存節點。通過一致性hash算法，將不同的url調度到不同的緩存節點，起到一定的均衡負載的作用，然而同一個url將會被固定分配到同一個緩存節點，來保證該url的緩存數據能夠在下一次被訪問時能被準確命中。

但是，當某個緩存節點出現故障時，網關模塊會將該緩存節點從hash算法中剔除，因此原來被hash到該緩存節點的url會被hash到其他緩存節點，而其他緩存節點上不存在該url的緩存，則通過回源模塊將請求轉發給源站或其他內容分發網絡。因此這些原本保存在該異常緩存節點上的url，這些原本不需要回源獲取緩存數據，都將因為該緩存節點的異常，同時需要回源拉取該url對應的資源。這將導致源站或其他內容分發網絡節點壓力陡增，造成雪崩效應，一些源站可能無法承受該壓力，從而導致源站崩潰。

針對上述問題，現有的解決方案大多數產品是將熱點url手動或者半自動的方式轉移到其他節點，來保證整個邊緣服務的可用性，現有方案在具體實施過程中發現存在下列問題：

1）手動/半自動的方式，全憑經驗，無法做到精準調度，即無法保證將熱點url轉移后，該節點負載能夠恢復；

2）url 轉移到其他節點后，該節點沒有該url的緩存數據，造成回源，變相提高了源站的壓力，如果超過了源站能承受的壓力，將造成用戶服務不可用；

3）手動的方式，帶來就是不能及時處理熱點問題，對于突發流量，往往無法及時響應；

4）當緩存節點出現異常的時候，改緩存節點的所有url將全部遷移到其他緩存節點，而其他緩存節點沒有這些url的緩存數據，將造成回源流量放大的問題。

綜上所述，針對現有存在的缺陷，目前該領域尚無精準的解決方案，是該領域亟需解決的技術問題。

發明內容

本發明的目的在于克服現有技術中存在的部分緩存節點負載過大，節點之間負載不均勻的缺陷，提供了一種在內容分發網絡中，均勻分配緩存節點負載的技術方案。

為達到上述目的，本發明第一方面公開一種內容分發網絡緩存節點的熱點均衡方法，該方法應用于內容分發網絡的邊緣節點系統，所述邊緣節點系統包括網關、緩存節點、回源模塊，所述緩存節點至少有兩個，其中，所述方法包括以下步驟：