[發明專利]分布式系統以及用于該系統的流量分配方法和裝置

有效

• 申請號: 201810821660.4
• 申請日: 2018-07-24
• 公開（公告）號: CN108924244B
• 公開（公告）日: 2022-02-25
• 發明（設計）人: 代俊
• 申請（專利權）人: 阿里巴巴（中國）有限公司
• 主分類號: H04L67/5682
• 分類號: H04L67/5682;H04L67/563;H04L67/55;H04L43/10;H04L45/02
• 代理公司: 北京展翼知識產權代理事務所(特殊普通合伙) 11452
• 代理人: 屠長存

本發明公開了一種分布式系統以及用于該系統的流量分配方法和裝置。該分布式系統包括管理節點和多個服務節點，該方法包括：管理節點接收分別來自多個服務節點的心跳報告，心跳報告包括分配給服務節點的用戶分組的用戶分組信息；管理節點根據心跳報告，生成用戶分配表，用戶分配表用于記錄多個服務節點和分配給各個服務節點的用戶分組的對應關系；響應于存在連接狀態發生變化的服務節點，管理節點基于用戶分配表，以用戶分組為單位，對至少一個服務節點重新分配用戶。由此，通過引入管理節點來對當前所有服務節點上的用戶信息進行歸一整理，在服務器集群發生變化的情況下，重新進行用戶分配和相關用戶緩存數據的遷移，進而實現緩存命中率的最大化。

技術領域

本發明涉及分布式系統技術領域，特別涉及一種分布式系統以及用于該系統的流量分配方法和裝置、計算設備和存儲介質。

背景技術

目前，推薦系統已廣泛應用于諸多領域，其主要是根據用戶的歷史訪問、信息需求、興趣等向用戶進行個性化推薦。一般，在推薦系統中都會將用戶的訪問歷史、用戶畫像、推薦結果等用戶信息進行緩存，以快速準確地向用戶推送推薦結果。

在用戶信息數據量較大的情況下，如果直接將用戶信息寫入分布式的緩存系統，將會給后續的基于用戶信息的推薦行為帶來較大的網絡開銷。

現有技術中，往往采用在推薦系統的服務器進程中緩存用戶信息的方式，以減少推薦服務的網絡開銷。這一技術存在的缺陷是，當系統進行升級或是節點(機器)異常退出時，進程中緩存的用戶信息將被自動清除，對于機器重新啟動或是有新的機器上線的情況下，在進程初始化后進程中沒有緩存用戶信息，在進行推薦服務時，無法在進程中查找到用戶信息，緩存命中率降低，造成進程啟動時間延遲、推薦效果變差等情況。

因此，仍然需要一種能夠最大化緩存命中率的數據管理方案。

發明內容

為了解決如上技術問題，本發明提出了一種分布式系統以及用于該系統的流量分配方法和裝置，其能夠在服務器集群發生變化的情況下，以較低的遷移成本實現緩存命中率的最大化。

根據本發明的一個方面，提供了一種用于分布式系統的流量分配方法，分布式系統包括管理節點和多個服務節點，該方法包括：管理節點接收分別來自多個服務節點的心跳報告，心跳報告包括分配給服務節點的用戶分組的用戶分組信息；管理節點根據心跳報告，生成用戶分配表，用戶分配表用于記錄多個服務節點和分配給各個服務節點的用戶分組的對應關系；響應于存在連接狀態發生變化的服務節點，管理節點基于用戶分配表，以用戶分組為單位，對至少一個服務節點重新分配用戶。

由此，實時監控服務節點的連接狀態，在集群信息變化時，重新分配用戶，以提高緩存命中率，保證服務質量。并且，通過引入管理節點收集所有的用戶分組信息，保證了整個集群路由信息的一致性和完整性；

可選地，該方法還可以包括：將屬于被重新分配的用戶分組的用戶的用戶相關緩存數據，遷移到為該用戶分組新分配的服務節點，其中，心跳報告包括分配給服務節點且已在本地緩存用戶相關緩存數據的用戶分組的用戶分組信息。

由此，在進行服務前首先進行用戶緩存數據遷移，以提高緩存命中率，保證服務質量、減少網絡開銷。并且，以最低的遷移成本完成用戶相關緩存數據的遷移。

可選地，該方法還可以包括：管理節點根據心跳報告，確定該心跳報告對應的服務節點的連接狀態是否發生變化。連接狀態發生變化的服務節點包括：先前可用而在預定時間期間內管理節點未收到其心跳報告的服務節點；以及/或者先前不可用而管理節點當前收到其心跳報告的新服務節點。

由此，通過心跳報告實現對服務節點連接狀態的監控。

可選地，對至少一個服務節點重新分配用戶的步驟可以包括：將當前未分配服務節點的用戶分組，分配給當前所分配的用戶分組數量最少的服務節點。