[發(fā)明專利]基于HBase大數據的實時全文檢索系統(tǒng)及其實現方法

有效

• 申請?zhí)枺?/td>: 201610522972.6
• 申請日: 2016-07-05
• 公開（公告）號: CN107577680B
• 公開（公告）日: 2021-04-09
• 發(fā)明（設計）人: 沈國權
• 申請（專利權）人: 北京嘀嘀無限科技發(fā)展有限公司
• 主分類號: G06F16/27
• 分類號: G06F16/27;G06F16/25;G06F16/23;G06F16/2455;G06F16/22
• 代理公司: 北京友聯知識產權代理事務所(普通合伙) 11343
• 代理人: 尚志峰;汪海屏

1.一種基于HBase大數據的實時全文檢索系統(tǒng)，其特征在于，包括：HBase集群復制模塊，索引服務器模塊和搜索引擎模塊；

所述HBase集群復制模塊，用于與HBase集群同時啟動，并實時監(jiān)測是否有從集群slavecluster的區(qū)域服務器RegionServer注冊進來，若有，則在HBase集群有數據變動時將所述數據變動實時同步到已注冊進來的slave cluster的RegionServer；

所述索引服務器模塊，用于實現RegionServer的接口以模擬一個slave cluster的RegionServer，包括：調用HBase的ReplicationAdmin接口往所述HBase集群復制模塊注冊，告知HBase集群它是slave cluster的RegionServer，要接受HBase集群傳輸過來的數據；并在接受HBase集群的數據后，對所述數據按照搜索引擎的格式進行轉換，并將轉換后的數據傳輸給所述搜索引擎模塊；

所述搜索引擎模塊，用于根據所述轉換后的數據建立全文索引，以實現用戶對HBase數據的實時全文檢索；

所述索引服務器模塊為一個遠程過程調用RPC服務器；

所述HBase集群復制模塊通過調用RPC方法replicateLogEntries將所述數據變動實時同步到所述索引服務器模塊。

2.根據權利要求1所述的系統(tǒng)，其特征在于，所述數據變動，包括：在HBase集群的表上刪除數據、插入數據、和/或更新數據。

3.一種基于權利要求1或2所述的基于HBase大數據的實時全文檢索系統(tǒng)的實現方法，其特征在于，包括：

創(chuàng)建索引服務器模塊，所述索引服務器模塊調用HBase的ReplicationAdmin接口往所述HBase集群復制模塊注冊，告知HBase集群它是slave cluster的RegionServer，要接受HBase集群傳輸過來的數據；

在HBase集群啟動的同時，HBase集群復制模塊啟動并實時監(jiān)測是否有slave cluster的RegionServer注冊進來，若有，則在HBase集群有數據變動時將所述數據變動實時同步到已注冊進來的slave cluster的RegionServer；

所述索引服務器模塊在接收到HBase集群傳輸的數據后，對所述數據按照搜索引擎的格式進行轉換，并將轉換后的數據傳輸給所述搜索引擎模塊；

所述搜索引擎模塊根據所述轉換后的數據建立全文索引，以實現用戶對HBase數據的實時全文檢索；

所述索引服務器模塊為一個遠程過程調用RPC服務器，在所述HBase集群復制模塊監(jiān)測到所述索引服務器模塊模擬一個slave cluster的RegionServer注冊進來且HBase集群有數據變動時，所述HBase集群復制模塊通過調用RPC方法replicateLogEntries將所述數據變動實時同步到所述索引服務器模塊。

4.根據權利要求3所述的方法，其特征在于，在啟動HBase集群之前，還包括：

修改HBase配置文件，以實現在HBase集群啟動的同時啟動HBase集群復制模塊。

5.根據權利要求3所述的方法，其特征在于，所述數據變動，包括：在HBase集群的表上刪除數據、插入數據、和/或更新數據。

6.根據權利要求3所述的方法，其特征在于，所述HBase集群復制模塊實時監(jiān)測是否有從集群slave cluster的區(qū)域服務器RegionServer注冊進來，若有，則在HBase集群有數據變動時將所述數據變動實時同步到已注冊進來的slave cluster的RegionServer，包括：

在用戶通過HBase集群的客戶端的API接口對HBase集群存儲的數據進行數據變動時，HBase集群將所述數據變動的操作記錄在HLog日志文件內，所述HBase集群復制模塊實時監(jiān)控所述HLog日志文件內容的變化，在所述HBase集群復制模塊監(jiān)測到所述索引服務器模塊模擬一個slave cluster的RegionServer注冊進來且所述HLog日志文件內容有數據變動的操作時，將所述數據變動實時同步到所述索引服務器模塊。