[發明專利]一種自動調整緩存時長的方法及裝置

有效

• 申請號: 201711239447.4
• 申請日: 2017-11-30
• 公開（公告）號: CN108134817B
• 公開（公告）日: 2019-04-05
• 發明（設計）人: 李圣佳;叢磊
• 申請（專利權）人: 北京白山耘科技有限公司
• 主分類號: H04L29/08
• 分類號: H04L29/08
• 代理公司: 北京名華博信知識產權代理有限公司 11453
• 代理人: 白瑩;李冬梅

本文公開了一種自動調整緩存時長的方法及裝置，此方法包括：設置目標接口對應的緩存時長區間；實時計算并記錄第一預設時長單位內和第二預設時長單位內所述目標接口的源站壓力參數；第一預設時長單位小于所述第二預設時長單位；根據距當前時間最近的第一預設時長單位內的所述目標接口的源站壓力參數更新目標接口對應的緩存時長，或者，根據距當前時間最近的第一預設時長單位內的所述目標接口的源站壓力參數和距當前時間最近的第二預設時長單位內的所述目標接口的源站壓力參數更新目標接口對應的緩存時長。

技術領域

本發明涉及互聯網技術領域，尤其涉及一種自動調整緩存時長的方法及裝置。

背景技術

在現有網絡中API緩存加速服務逐漸得到廣泛應用。支持API緩存加速服務的服務器收到用戶訪問目標接口的請求后，判斷本服務器對此請求的內容是否支持緩存，如果否，直接轉發至源站，如果是，查詢API緩存加速服務中是否緩存有此請求對應的內容，如果有，直接將緩存的內容響應給用戶，如果沒有，轉發至源站并根據緩存策略對源站返回的響應內容進行緩存。

API緩存加速服務對應的緩存目標為動態內容，緩存時長一般是毫秒級別到秒級別，當訪問并發量較大的情況下，可能由于以下情況造成源站的響應速度緩慢：

1)并發超過了源站的承受能力。

2)源站由于第三方接口的問題而響應速度變慢。

3)源站由于自己原因(如數據庫卡頓，代碼bug)而響應速度變慢。

源站的響應速度緩慢直接響應用戶訪問速度，并影響用戶體驗。現有技術中的緩存時長是固定的值，在源站狀態改變時無法自適應的進行相應的調節，影響API緩存加速服務的性能及用戶體驗。

發明內容

為了解決上述技術問題，本發明提供一種自動調整緩存時長的方法及裝置。

本發明提供的自動調整緩存過期時長的方法，包括：

設置目標接口對應的緩存時長區間；

實時計算并記錄第一預設時長單位內和第二預設時長單位內目標接口的源站壓力參數；第一預設時長單位小于第二預設時長單位；

根據距當前時間最近的第一預設時長單位內的目標接口的源站壓力參數更新目標接口對應的緩存時長，或者，根據距當前時間最近的第一預設時長單位內的目標接口的源站壓力參數和距當前時間最近的第二預設時長單位內的目標接口的源站壓力參數更新目標接口對應的緩存時長。

進一步地，上述自動調整緩存過期時長的方法還具有以下特點：

源站壓力參數的個數為一個時，根據距當前時間最近的第一預設時長單位內的目標接口的源站壓力參數和距當前時間最近的第二預設時長單位內的目標接口的源站壓力參數更新目標接口對應的緩存時長包括：

將距當前時間最近的第一預設時長單位內的目標接口的源站壓力參數的值作為第一數值；將距當前時間最近的第二預設時長單位內的目標接口的源站壓力參數的值作為第二數值；

根據第二數值構建判定區間，判定區間的最小值為第二數值，最大值為第二數值的X倍，X為1至3之間的整數或實數；此判定區間包括N個子區間；

第一數值位于判定區間時，判斷第一數值位于判定區間的子區間，確定此子區間的最小值距判定區間的最小值的間隔與判定區間的時長的比例，確定目標接口對應的緩存時長，使其距緩存時長區間的最小值的間隔與緩存時長區間的時長的比例為上述比例。

進一步地，上述自動調整緩存過期時長的方法還具有以下特點：

方法還包括：第一數值不位于判定區間，第一數值小于判定區間的最小值時，將目標接口對應的緩存時長設置為緩存時長區間的最小值；第一數值大于判定區間的最大值時，將目標接口對應的緩存時長設置為緩存時長區間的最大值。