[發明專利]時間間隔的調整方法和裝置有效
| 申請號: | 201611148705.3 | 申請日: | 2016-12-13 |
| 公開(公告)號: | CN108614841B | 公開(公告)日: | 2021-09-07 |
| 發明(設計)人: | 李鶴 | 申請(專利權)人: | 北京國雙科技有限公司 |
| 主分類號: | G06F16/953 | 分類號: | G06F16/953 |
| 代理公司: | 北京康信知識產權代理有限責任公司 11240 | 代理人: | 韓建偉;張永明 |
| 地址: | 100083 北京市海淀區*** | 國省代碼: | 北京;11 |
| 權利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關鍵詞: | 時間 間隔 調整 方法 裝置 | ||
1.一種時間間隔的調整方法,其特征在于,包括:
提取目標網站在預設周期內的歷史爬取記錄;
根據所述歷史爬取記錄和所述目標網站的當前爬取時間間隔通過預設算法進行計算,得到調整后的爬取時間間隔;
依據所述調整后的爬取時間間隔替換所述目標網站的當前爬取時間間隔;
所述提取目標網站在預設周期內的歷史爬取記錄包括:獲取所述目標網站在所述預設周期中N個單位時間的所述歷史爬取記錄,其中,所述歷史爬取記錄至少包括:每個單位時間的爬取量以及所述每個單位時間中的爬取時間間隔,N為整數,N大于1;
所述根據所述歷史爬取記錄和所述目標網站的當前爬取時間間隔通過預設算法進行計算,得到調整后的爬取時間間隔包括:解析所述歷史爬取記錄中的所述每個單位時間的爬取量,計算所述N個單位時間的爬取量的平均值;計算所述N個單位時間中第N個單位時間的爬取量與所述平均值的比值,依據所述比值調整所述當前爬取時間間隔,得到調整后的爬取時間間隔。
2.根據權利要求1所述的方法,其特征在于,在所述依據所述比值調整所述當前爬取時間間隔,得到調整后的爬取時間間隔之前,所述方法還包括:
判斷所述平均值是否為零,在所述平均值為零的情況下,將預設最大爬取時間間隔確定為所述調整后的爬取時間間隔。
3.根據權利要求2所述的方法,其特征在于,所述依據所述比值調整所述當前爬取時間間隔,得到調整后的爬取時間間隔包括:
在所述平均值不等于零的情況下,判斷所述比值是否大于預設閾值;
在所述比值大于所述預設閾值的情況下,依據第一預設條件調整所述當前爬取時間間隔,得到所述調整后的爬取時間間隔,其中,所述調整后的爬取時間間隔小于所述當前爬取時間間隔;
在所述比值小于所述預設閾值的情況下,依據第二預設條件調整所述當前爬取時間間隔,得到所述調整后的爬取時間間隔,其中,所述調整后的爬取時間間隔大于所述當前爬取時間間隔。
4.一種時間間隔的調整裝置,其特征在于,包括:
提取模塊,用于提取目標網站在預設周期內的歷史爬取記錄;
計算模塊,用于根據所述歷史爬取記錄和所述目標網站的當前爬取時間間隔通過預設算法進行計算,得到調整后的爬取時間間隔;
調整模塊,用于依據所述調整后的爬取時間間隔替換所述目標網站的當前爬取時間間隔;
所述提取模塊包括:獲取單元,用于獲取所述目標網站在所述預設周期中N個單位時間的所述歷史爬取記錄,其中,所述歷史爬取記錄至少包括:每個單位時間的爬取量以及所述每個單位時間中的爬取時間間隔,N為整數,N大于1;
所述計算模塊包括:解析單元,用于解析所述歷史爬取記錄中的所述每個單位時間的爬取量,計算所述N個單位時間的爬取量的平均值;計算單元,用于計算所述N個單位時間中第N個單位時間的爬取量與所述平均值的比值,依據所述比值調整所述當前爬取時間間隔,得到調整后的爬取時間間隔。
5.根據權利要求4所述的裝置,其特征在于,所述裝置還包括:
判斷模塊,用于在所述依據所述比值調整所述當前爬取時間間隔,得到調整后的爬取時間間隔之前,判斷所述平均值是否為零,在所述平均值為零的情況下,將預設最大爬取時間間隔確定為所述調整后的爬取時間間隔。
6.根據權利要求5所述的裝置,其特征在于,所述計算單元包括:
判斷子單元,用于在所述平均值不等于零的情況下,判斷所述比值是否大于預設閾值;
第一計算子單元,用于在所述比值大于所述預設閾值的情況下,依據第一預設條件調整所述當前爬取時間間隔,得到所述調整后的爬取時間間隔,其中,所述調整后的爬取時間間隔小于所述當前爬取時間間隔;
第二計算子單元,用于在所述比值小于所述預設閾值的情況下,依據第二預設條件調整所述當前爬取時間間隔,得到所述調整后的爬取時間間隔,其中,所述調整后的爬取時間間隔大于所述當前爬取時間間隔。
該專利技術資料僅供研究查看技術是否侵權等信息,商用須獲得專利權人授權。該專利全部權利屬于北京國雙科技有限公司,未經北京國雙科技有限公司許可,擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作,請聯系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/201611148705.3/1.html,轉載請聲明來源鉆瓜專利網。





