[發(fā)明專利]一種防止網(wǎng)絡(luò)爬蟲竊取隱私數(shù)據(jù)的方法、訓(xùn)練方法及裝置有效
| 申請?zhí)枺?/td> | 201911284559.0 | 申請日: | 2019-12-13 |
| 公開(公告)號: | CN111107074B | 公開(公告)日: | 2022-04-08 |
| 發(fā)明(設(shè)計)人: | 宗志遠 | 申請(專利權(quán))人: | 支付寶(杭州)信息技術(shù)有限公司 |
| 主分類號: | H04L9/40 | 分類號: | H04L9/40;G06F21/62;G06F16/951 |
| 代理公司: | 北京國昊天誠知識產(chǎn)權(quán)代理有限公司 11315 | 代理人: | 許振新 |
| 地址: | 310000 浙江省杭州市*** | 國省代碼: | 浙江;33 |
| 權(quán)利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關(guān)鍵詞: | 一種 防止 網(wǎng)絡(luò) 爬蟲 竊取 隱私 數(shù)據(jù) 方法 訓(xùn)練 裝置 | ||
1.一種防止網(wǎng)絡(luò)爬蟲竊取隱私數(shù)據(jù)的方法,包括:
從目標客戶端的網(wǎng)絡(luò)流量數(shù)據(jù)中提取所述目標客戶端在預(yù)設(shè)時間段內(nèi)的應(yīng)用程序接口API訪問記錄;
基于所述目標客戶端在所述預(yù)設(shè)時間段內(nèi)的應(yīng)用程序接口API訪問記錄,生成待識別數(shù)據(jù),所述待識別數(shù)據(jù)包括以時間和API訪問量為維度的所述目標客戶端在所述預(yù)設(shè)時間段內(nèi)的API訪問二維圖;
將所述待識別數(shù)據(jù)輸入至網(wǎng)絡(luò)爬蟲識別模型,以得到所述目標客戶端的網(wǎng)絡(luò)識別結(jié)果,其中,所述網(wǎng)絡(luò)爬蟲識別模型是基于樣本數(shù)據(jù)和所述樣本數(shù)據(jù)的網(wǎng)絡(luò)爬蟲分類標簽訓(xùn)練得到的,所述樣本數(shù)據(jù)包括以時間和API訪問量為維度的所述樣本用戶在所述預(yù)設(shè)時間段內(nèi)的API訪問二維圖;
對所述目標客戶端執(zhí)行與所述網(wǎng)絡(luò)爬蟲識別結(jié)果相匹配的隱私數(shù)據(jù)保護措施。
2.根據(jù)權(quán)利要求1所述的方法,
對所述目標客戶端執(zhí)行與所述網(wǎng)絡(luò)爬蟲識別結(jié)果相匹配的隱私數(shù)據(jù)保護措施,包括:
若所述網(wǎng)絡(luò)爬蟲識別結(jié)果指示所述目標客戶端屬于網(wǎng)絡(luò)爬蟲,則將所述目標客戶端添置黑名單以阻止進行API訪問,或者,在每天指定時段阻止所述目標客戶端進行API訪問。
3.一種網(wǎng)絡(luò)爬蟲識別模型的訓(xùn)練方法,包括:
從樣本客戶端的網(wǎng)絡(luò)流量數(shù)據(jù)中提取所述樣本客戶端在預(yù)設(shè)時間段內(nèi)的應(yīng)用程序接口API訪問記錄;
基于所述樣本客戶端在所述預(yù)設(shè)時間段內(nèi)的應(yīng)用程序接口API訪問記錄,生成樣本數(shù)據(jù),所述樣本數(shù)據(jù)包括以時間和API訪問量為維度的所述樣本客戶端在所述預(yù)設(shè)時間段內(nèi)的API訪問二維圖;
基于所述樣本數(shù)據(jù)和預(yù)先為所述樣本數(shù)據(jù)標注的網(wǎng)絡(luò)爬蟲分類標志,對網(wǎng)絡(luò)爬蟲識別模型進行訓(xùn)練,所述網(wǎng)絡(luò)爬蟲識別模型用于網(wǎng)絡(luò)爬蟲識別,且輸出的網(wǎng)絡(luò)爬蟲識別結(jié)果用于決策隱私數(shù)據(jù)保護措施。
4.根據(jù)權(quán)利要求3所述的方法,
所述預(yù)設(shè)時間端為1天、12小時、1小時中的一者。
5.根據(jù)權(quán)利要求3所述的方法,
所述網(wǎng)絡(luò)爬蟲識別模型為卷積神經(jīng)網(wǎng)絡(luò)模型。
6.根據(jù)權(quán)利要求5所述的方法,
所述網(wǎng)絡(luò)爬蟲識別模型包括差量網(wǎng)絡(luò)模型。
7.一種防止網(wǎng)絡(luò)爬蟲竊取隱私數(shù)據(jù)的裝置,包括:
記錄提取模塊,從目標客戶端的網(wǎng)絡(luò)流量數(shù)據(jù)中提取所述目標客戶端在預(yù)設(shè)時間段內(nèi)的應(yīng)用程序接口API訪問記錄;
圖像生成模塊,基于所述目標客戶端在所述預(yù)設(shè)時間段內(nèi)的應(yīng)用程序接口API訪問記錄,生成待識別數(shù)據(jù),所述待識別數(shù)據(jù)包括以時間和API訪問量為維度的所述目標客戶端在所述預(yù)設(shè)時間段內(nèi)的API訪問二維圖;
爬蟲識別模塊,將所述待識別數(shù)據(jù)輸入至網(wǎng)絡(luò)爬蟲識別模型,以得到所述目標客戶端的網(wǎng)絡(luò)識別結(jié)果,其中,所述網(wǎng)絡(luò)爬蟲識別模型是基于樣本數(shù)據(jù)和所述樣本數(shù)據(jù)的網(wǎng)絡(luò)爬蟲分類標簽訓(xùn)練得到的,所述樣本數(shù)據(jù)包括以時間和API訪問量為維度的所述樣本用戶在所述預(yù)設(shè)時間段內(nèi)的API訪問二維圖;
數(shù)據(jù)保護模塊,對所述目標客戶端執(zhí)行與所述網(wǎng)絡(luò)爬蟲識別結(jié)果相匹配的隱私數(shù)據(jù)保護措施。
8.一種電子設(shè)備包括:存儲器、處理器及存儲在所述存儲器上并可在所述處理器上運行的計算機程序,所述計算機程序被所述處理器執(zhí)行:
從目標客戶端的網(wǎng)絡(luò)流量數(shù)據(jù)中提取所述目標客戶端在預(yù)設(shè)時間段內(nèi)的應(yīng)用程序接口API訪問記錄;
基于所述目標客戶端在所述預(yù)設(shè)時間段內(nèi)的應(yīng)用程序接口API訪問記錄,生成待識別數(shù)據(jù),所述待識別數(shù)據(jù)包括以時間和API訪問量為維度的所述目標客戶端在所述預(yù)設(shè)時間段內(nèi)的API訪問二維圖;
將所述待識別數(shù)據(jù)輸入至網(wǎng)絡(luò)爬蟲識別模型,以得到所述目標客戶端的網(wǎng)絡(luò)識別結(jié)果,其中,所述網(wǎng)絡(luò)爬蟲識別模型是基于樣本數(shù)據(jù)和所述樣本數(shù)據(jù)的網(wǎng)絡(luò)爬蟲分類標簽訓(xùn)練得到的,所述樣本數(shù)據(jù)包括以時間和API訪問量為維度的所述樣本用戶在所述預(yù)設(shè)時間段內(nèi)的API訪問二維圖;
對所述目標客戶端執(zhí)行與所述網(wǎng)絡(luò)爬蟲識別結(jié)果相匹配的隱私數(shù)據(jù)保護措施。
該專利技術(shù)資料僅供研究查看技術(shù)是否侵權(quán)等信息,商用須獲得專利權(quán)人授權(quán)。該專利全部權(quán)利屬于支付寶(杭州)信息技術(shù)有限公司,未經(jīng)支付寶(杭州)信息技術(shù)有限公司許可,擅自商用是侵權(quán)行為。如果您想購買此專利、獲得商業(yè)授權(quán)和技術(shù)合作,請聯(lián)系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/201911284559.0/1.html,轉(zhuǎn)載請聲明來源鉆瓜專利網(wǎng)。
- 網(wǎng)絡(luò)和網(wǎng)絡(luò)終端
- 網(wǎng)絡(luò)DNA
- 網(wǎng)絡(luò)地址自適應(yīng)系統(tǒng)和方法及應(yīng)用系統(tǒng)和方法
- 網(wǎng)絡(luò)系統(tǒng)及網(wǎng)絡(luò)至網(wǎng)絡(luò)橋接器
- 一種電力線網(wǎng)絡(luò)中根節(jié)點網(wǎng)絡(luò)協(xié)調(diào)方法和系統(tǒng)
- 一種多網(wǎng)絡(luò)定位方法、存儲介質(zhì)及移動終端
- 網(wǎng)絡(luò)裝置、網(wǎng)絡(luò)系統(tǒng)、網(wǎng)絡(luò)方法以及網(wǎng)絡(luò)程序
- 從重復(fù)網(wǎng)絡(luò)地址自動恢復(fù)的方法、網(wǎng)絡(luò)設(shè)備及其存儲介質(zhì)
- 神經(jīng)網(wǎng)絡(luò)的訓(xùn)練方法、裝置及存儲介質(zhì)
- 網(wǎng)絡(luò)管理方法和裝置
- 檢測反爬蟲策略安全性的方法及裝置
- 一種監(jiān)控網(wǎng)絡(luò)爬蟲的方法、裝置和系統(tǒng)
- 一種通過爬蟲狀態(tài)機管理爬蟲的方法及裝置
- 爬蟲協(xié)議管理方法及裝置、爬蟲系統(tǒng)
- 基于APP客戶端的爬蟲及爬取方法
- 視頻業(yè)務(wù)處理方法、裝置及電子設(shè)備
- 一種爬蟲方法、裝置、系統(tǒng)、設(shè)備及可讀存儲介質(zhì)
- 分布式爬蟲系統(tǒng)架構(gòu)、爬取數(shù)據(jù)的方法和計算機設(shè)備
- 基于scrapy爬蟲框架的數(shù)據(jù)采集系統(tǒng)及方法
- 多中心綜合網(wǎng)絡(luò)爬蟲系統(tǒng)





