[發(fā)明專利]一種基于HBase的時(shí)空數(shù)據(jù)存儲(chǔ)與索引方法在審
| 申請(qǐng)?zhí)枺?/td> | 201911388918.7 | 申請(qǐng)日: | 2019-12-30 |
| 公開(公告)號(hào): | CN111125119A | 公開(公告)日: | 2020-05-08 |
| 發(fā)明(設(shè)計(jì))人: | 趙普陽(yáng);楊光輝;曹梓琦;王焰輝 | 申請(qǐng)(專利權(quán))人: | 中科星圖股份有限公司 |
| 主分類號(hào): | G06F16/22 | 分類號(hào): | G06F16/22;G06F16/27;G06F16/29 |
| 代理公司: | 北京科迪生專利代理有限責(zé)任公司 11251 | 代理人: | 鄧治平 |
| 地址: | 101399 北京市順義區(qū)臨空經(jīng)濟(jì)核心*** | 國(guó)省代碼: | 北京;11 |
| 權(quán)利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關(guān)鍵詞: | 一種 基于 hbase 時(shí)空 數(shù)據(jù) 存儲(chǔ) 索引 方法 | ||
1.一種基于HBase的時(shí)空數(shù)據(jù)存儲(chǔ)與索引方法,其特征在于,包括如下步驟:
步驟1:設(shè)計(jì)HBase中的行鍵RowKey規(guī)則,包括RowKey的每個(gè)字節(jié)的定義、格式;
步驟2:根據(jù)步驟1設(shè)計(jì)的RowKey規(guī)則,從時(shí)空數(shù)據(jù)中提取出RowKey;
步驟3:根據(jù)所述設(shè)計(jì)的行鍵RowKey規(guī)則將時(shí)空數(shù)據(jù)寫入HBase;
步驟4:根據(jù)所述RowKey規(guī)則從HBase里檢索時(shí)空數(shù)據(jù)。
2.根據(jù)權(quán)利要求1所述的一種基于HBase的時(shí)空數(shù)據(jù)存儲(chǔ)與索引方法,其特征在于:所述步驟1具體包括:
步驟1.1:將Rowkey第1個(gè)字節(jié)設(shè)為隨機(jī)值;
步驟1.2:將Rowkey第2個(gè)字節(jié)設(shè)為自1970年起的年數(shù);
步驟1.3:將Rowkey第3到11個(gè)字節(jié)設(shè)為47位GeoHash和25位年內(nèi)秒數(shù)的拼接;
步驟1.4:將Rowkey第12及以后的字節(jié)設(shè)為時(shí)空數(shù)據(jù)的id。
3.根據(jù)權(quán)利要求1所述的一種基于HBase的時(shí)空數(shù)據(jù)存儲(chǔ)與索引方法,其特征在于:所述步驟2具體包括:
步驟2.1:使用HBase作為數(shù)據(jù)庫(kù);
步驟2.2:接收時(shí)空數(shù)據(jù);
步驟2.3:從每條數(shù)據(jù)中提取出id、時(shí)間、位置信息;
步驟2.4:根據(jù)每條數(shù)據(jù)中提取的id、時(shí)間、位置信息根據(jù)RowKey規(guī)則生成所述的RowKey。
4.根據(jù)權(quán)利要求3所述的一種基于HBase的時(shí)空數(shù)據(jù)存儲(chǔ)與索引方法,其特征在于:所述步驟3具體包括:
將每條數(shù)據(jù)結(jié)合所述生成的RowKey寫入HBase。
5.根據(jù)權(quán)利要求1所述的一種基于HBase的時(shí)空數(shù)據(jù)存儲(chǔ)與索引方法,其特征在于:
所述步驟4中根據(jù)所述RowKey規(guī)則從HBase里檢索時(shí)空數(shù)據(jù),包括進(jìn)行時(shí)空查詢,具體為:
步驟4.11:得到檢索條件中的位置信息;
步驟4.12:根據(jù)位置信息得到GeoHash區(qū)間;
步驟4.13:使用協(xié)處理器在HBase對(duì)應(yīng)表的每個(gè)分片上使用Scan過濾器查找初步匹配的數(shù)據(jù);
步驟4.14:根據(jù)查找到的初步匹配數(shù)據(jù)提取value值進(jìn)行精確匹配;
步驟4.15:每個(gè)分片得到精確匹配后的結(jié)果匯總返回。
6.根據(jù)權(quán)利要求1所述的一種基于HBase的時(shí)空數(shù)據(jù)存儲(chǔ)與索引方法,其特征在于:
所述步驟4中根據(jù)所述RowKey規(guī)則從HBase里檢索時(shí)空數(shù)據(jù),包括進(jìn)行空間查詢和聚合查詢,具體為:
步驟4.21:得到檢索條件中的位置信息和時(shí)間信息;
步驟4.22:根據(jù)位置信息和時(shí)間信息得到GeoHash區(qū)間和年數(shù)、秒數(shù)信息;
步驟4.23:使用協(xié)處理器在HBase對(duì)應(yīng)表的每個(gè)分片上使用Scan過濾器查找初步匹配的數(shù)據(jù);
步驟4.24:根據(jù)查找到的初步匹配數(shù)據(jù)提取value值進(jìn)行精確匹配;
步驟4.25:每個(gè)分片得到精確匹配后的結(jié)果匯總返回。
該專利技術(shù)資料僅供研究查看技術(shù)是否侵權(quán)等信息,商用須獲得專利權(quán)人授權(quán)。該專利全部權(quán)利屬于中科星圖股份有限公司,未經(jīng)中科星圖股份有限公司許可,擅自商用是侵權(quán)行為。如果您想購(gòu)買此專利、獲得商業(yè)授權(quán)和技術(shù)合作,請(qǐng)聯(lián)系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/201911388918.7/1.html,轉(zhuǎn)載請(qǐng)聲明來源鉆瓜專利網(wǎng)。
- 一種基于thrift服務(wù)的HBase安全插件
- 一種實(shí)現(xiàn)Windows下連接控制Hbase的方法及裝置
- 一種基于大數(shù)據(jù)的數(shù)據(jù)脫敏方法和Hbase脫敏處理系統(tǒng)
- 多個(gè)集群數(shù)據(jù)一致性的控制方法、裝置、設(shè)備及存儲(chǔ)介質(zhì)
- HBase數(shù)據(jù)遷移方法及遷移裝置
- 基于phoenix改造hbase舊系統(tǒng)的索引同步方法、裝置及系統(tǒng)
- 一種格式化HBase數(shù)據(jù)的方法
- 一種多HBase集群訪問方法、裝置及存儲(chǔ)介質(zhì)
- HBase集群平衡方法、裝置、電子設(shè)備和存儲(chǔ)介質(zhì)
- 一種基于AEP內(nèi)存的HBase集群性能優(yōu)化方法及系統(tǒng)
- 一種時(shí)空地理大數(shù)據(jù)的檢索方法及系統(tǒng)
- 一種泛知識(shí)化時(shí)空對(duì)象表達(dá)數(shù)據(jù)庫(kù)建立方法
- 一種基于時(shí)空密度波與同步的大型時(shí)空數(shù)據(jù)聚類算法GRIDWAVE
- 時(shí)空數(shù)據(jù)的存儲(chǔ)方法、查詢方法及存儲(chǔ)裝置、查詢裝置
- 一種云環(huán)境下時(shí)空索引的構(gòu)建方法、裝置及電子設(shè)備
- 面向工業(yè)4.0的時(shí)空大數(shù)據(jù)分布式存儲(chǔ)檢索方法及系統(tǒng)
- 一種數(shù)據(jù)比對(duì)碰撞方法和裝置
- 時(shí)空數(shù)據(jù)的異常檢測(cè)方法、裝置、電子設(shè)備和存儲(chǔ)介質(zhì)
- 一種可直接捕獲時(shí)空相關(guān)性的時(shí)空數(shù)據(jù)預(yù)測(cè)方法
- 多維時(shí)空譜數(shù)據(jù)融合方法、裝置、電子設(shè)備和存儲(chǔ)介質(zhì)
- 數(shù)據(jù)顯示系統(tǒng)、數(shù)據(jù)中繼設(shè)備、數(shù)據(jù)中繼方法、數(shù)據(jù)系統(tǒng)、接收設(shè)備和數(shù)據(jù)讀取方法
- 數(shù)據(jù)記錄方法、數(shù)據(jù)記錄裝置、數(shù)據(jù)記錄媒體、數(shù)據(jù)重播方法和數(shù)據(jù)重播裝置
- 數(shù)據(jù)發(fā)送方法、數(shù)據(jù)發(fā)送系統(tǒng)、數(shù)據(jù)發(fā)送裝置以及數(shù)據(jù)結(jié)構(gòu)
- 數(shù)據(jù)顯示系統(tǒng)、數(shù)據(jù)中繼設(shè)備、數(shù)據(jù)中繼方法及數(shù)據(jù)系統(tǒng)
- 數(shù)據(jù)嵌入裝置、數(shù)據(jù)嵌入方法、數(shù)據(jù)提取裝置及數(shù)據(jù)提取方法
- 數(shù)據(jù)管理裝置、數(shù)據(jù)編輯裝置、數(shù)據(jù)閱覽裝置、數(shù)據(jù)管理方法、數(shù)據(jù)編輯方法以及數(shù)據(jù)閱覽方法
- 數(shù)據(jù)發(fā)送和數(shù)據(jù)接收設(shè)備、數(shù)據(jù)發(fā)送和數(shù)據(jù)接收方法
- 數(shù)據(jù)發(fā)送裝置、數(shù)據(jù)接收裝置、數(shù)據(jù)收發(fā)系統(tǒng)、數(shù)據(jù)發(fā)送方法、數(shù)據(jù)接收方法和數(shù)據(jù)收發(fā)方法
- 數(shù)據(jù)發(fā)送方法、數(shù)據(jù)再現(xiàn)方法、數(shù)據(jù)發(fā)送裝置及數(shù)據(jù)再現(xiàn)裝置
- 數(shù)據(jù)發(fā)送方法、數(shù)據(jù)再現(xiàn)方法、數(shù)據(jù)發(fā)送裝置及數(shù)據(jù)再現(xiàn)裝置





