[發(fā)明專利]獲取信息的方法、裝置以及存儲介質(zhì)在審
| 申請?zhí)枺?/td> | 201910918412.6 | 申請日: | 2019-09-26 |
| 公開(公告)號: | CN110674379A | 公開(公告)日: | 2020-01-10 |
| 發(fā)明(設(shè)計)人: | 馬文杰;張晶;張艷麗;李欣 | 申請(專利權(quán))人: | 凡普數(shù)字技術(shù)有限公司 |
| 主分類號: | G06F16/951 | 分類號: | G06F16/951 |
| 代理公司: | 11694 北京萬思博知識產(chǎn)權(quán)代理有限公司 | 代理人: | 劉冀 |
| 地址: | 102425 北京市房山區(qū)閻*** | 國省代碼: | 北京;11 |
| 權(quán)利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關(guān)鍵詞: | 數(shù)據(jù)通道 抓取 信息獲取請求 存儲介質(zhì) 獲取信息 網(wǎng)絡(luò)平臺 信息相關(guān) 預(yù)先設(shè)置 終端設(shè)備 預(yù)設(shè) 響應(yīng) 分配 申請 | ||
1.一種獲取信息的方法,其特征在于,包括:
從終端設(shè)備接收獲取指定信息的信息獲取請求;以及
響應(yīng)于所述信息獲取請求,按照預(yù)設(shè)的分配比例,利用預(yù)先設(shè)置的多個數(shù)據(jù)通道抓取與所述指定信息相關(guān)的數(shù)據(jù),其中
所述多個數(shù)據(jù)通道用于從不同類型的網(wǎng)絡(luò)平臺抓取數(shù)據(jù)。
2.根據(jù)權(quán)利要求1所述的方法,其特征在于,還包括根據(jù)以下操作,確定所述分配比例:
確定在預(yù)設(shè)的第一時間間隔內(nèi)利用所述多個數(shù)據(jù)通道抓取數(shù)據(jù)的成功率;以及
根據(jù)所述成功率,確定利用所述多個數(shù)據(jù)通道抓取數(shù)據(jù)的所述分配比例。
3.根據(jù)權(quán)利要求1所述的方法,其特征在于,利用預(yù)先設(shè)置的多個數(shù)據(jù)通道抓取與所述指定信息相關(guān)的數(shù)據(jù)的操作,包括:
根據(jù)所述分配比例,向所述多個數(shù)據(jù)通道分配抓取數(shù)據(jù)的數(shù)據(jù)抓取任務(wù)。
4.根據(jù)權(quán)利要求3所述的方法,其特征在于,還包括:
在利用所述多個數(shù)據(jù)通道中的第一數(shù)據(jù)通道抓取數(shù)據(jù)的成功率低于預(yù)設(shè)的比率的情況下,停止利用所述第一數(shù)據(jù)通道抓取數(shù)據(jù)。
5.根據(jù)權(quán)利要求4所述的方法,其特征在于,在停止利用所述第一數(shù)據(jù)通道抓取數(shù)據(jù)之后,還包括:
在預(yù)設(shè)的第二時間間隔后,向所述第一數(shù)據(jù)通道分配至少一個用于抓取數(shù)據(jù)的數(shù)據(jù)抓取任務(wù);
判定所述第一數(shù)據(jù)通道是否能夠基于所述至少一個數(shù)據(jù)抓取任務(wù)成功抓取數(shù)據(jù);以及
在判定所述第一數(shù)據(jù)通道能夠基于所述至少一個數(shù)據(jù)抓取任務(wù)成功抓取數(shù)據(jù)的情況下,繼續(xù)向所述第一數(shù)據(jù)通道分配數(shù)據(jù)抓取任務(wù)。
6.根據(jù)權(quán)利要求2所述的方法,其特征在于,還包括:
在預(yù)設(shè)的第三時間間隔后,確定與所述多個數(shù)據(jù)通道分別對應(yīng)的計數(shù)器在所述第三時間間隔內(nèi)統(tǒng)計的數(shù)量;
根據(jù)所述統(tǒng)計的數(shù)量,重新計算所述多個數(shù)據(jù)通道的成功率;以及
根據(jù)所述重新計算的結(jié)果,重新確定利用所述多個數(shù)據(jù)通道抓取數(shù)據(jù)的所述分配比例。
7.一種存儲介質(zhì),其特征在于,所述存儲介質(zhì)包括存儲的程序,其中,在所述程序運行時由處理器執(zhí)行權(quán)利要求1至6中任意一項所述的方法。
8.一種獲取信息的裝置,其特征在于,包括:
接收模塊,用于從終端設(shè)備接收獲取指定信息的信息獲取請求;以及
數(shù)據(jù)抓取模塊,用于響應(yīng)于所述信息獲取請求,按照預(yù)設(shè)的分配比例,利用預(yù)先設(shè)置的多個數(shù)據(jù)通道抓取與所述指定信息相關(guān)的數(shù)據(jù),其中所述多個數(shù)據(jù)通道用于從不同類型的網(wǎng)絡(luò)平臺抓取數(shù)據(jù)。
9.根據(jù)權(quán)利要求8所述的裝置,其特征在于,還包括第一確定模塊,用于利用以下所述的子模塊,確定所述分配比例:
第一確定子模塊,用于確定在預(yù)設(shè)的第一時間間隔內(nèi)利用所述多個數(shù)據(jù)通道抓取數(shù)據(jù)的成功率;以及
第二確定子模塊,用于根據(jù)所述成功率,確定利用所述多個數(shù)據(jù)通道抓取數(shù)據(jù)的所述分配比例。
10.一種獲取信息的裝置,其特征在于,包括:
處理器;以及
存儲器,與所述處理器連接,用于為所述處理器提供處理以下處理步驟的指令:
從終端設(shè)備接收獲取指定信息的信息獲取請求;以及
響應(yīng)于所述信息獲取請求,按照預(yù)設(shè)的分配比例,利用預(yù)先設(shè)置的多個數(shù)據(jù)通道抓取與所述指定信息相關(guān)的數(shù)據(jù),其中
所述多個數(shù)據(jù)通道用于從不同類型的網(wǎng)絡(luò)平臺抓取數(shù)據(jù)。
該專利技術(shù)資料僅供研究查看技術(shù)是否侵權(quán)等信息,商用須獲得專利權(quán)人授權(quán)。該專利全部權(quán)利屬于凡普數(shù)字技術(shù)有限公司,未經(jīng)凡普數(shù)字技術(shù)有限公司許可,擅自商用是侵權(quán)行為。如果您想購買此專利、獲得商業(yè)授權(quán)和技術(shù)合作,請聯(lián)系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/201910918412.6/1.html,轉(zhuǎn)載請聲明來源鉆瓜專利網(wǎng)。
- 用于接合與分離存儲介質(zhì)的裝置
- 存儲介質(zhì)陣列控制器、控制方法、設(shè)備、和存儲介質(zhì)驅(qū)動器
- 存儲介質(zhì)處理方法、系統(tǒng)及數(shù)據(jù)讀寫操作方法、系統(tǒng)
- 存儲裝置、存儲介質(zhì)以及存儲介質(zhì)的制造方法
- 數(shù)據(jù)存儲
- 存儲介質(zhì)之間的數(shù)據(jù)遷移
- 一種基于存儲系統(tǒng)的控制方法及裝置
- 自助設(shè)備及自助設(shè)備的介質(zhì)存儲裝置
- 融合存儲系統(tǒng)中的數(shù)據(jù)遷移方法和裝置
- 一種數(shù)據(jù)存儲方法、裝置及電子設(shè)備





