[發明專利]一種大數據存儲方法和系統在審
| 申請號: | 201810155732.6 | 申請日: | 2018-02-23 |
| 公開(公告)號: | CN108304572A | 公開(公告)日: | 2018-07-20 |
| 發明(設計)人: | 蘇家怡;魏烈龍;鐘國文;黃海華 | 申請(專利權)人: | 廣州天維信息技術股份有限公司 |
| 主分類號: | G06F17/30 | 分類號: | G06F17/30 |
| 代理公司: | 廣州一銳專利代理有限公司 44369 | 代理人: | 甘奎強 |
| 地址: | 510000 廣東省*** | 國省代碼: | 廣東;44 |
| 權利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關鍵詞: | 存儲 大數據 快照表 臨時表 拉鏈 維度 業務數據匯總 任意時間點 查詢服務 存儲性能 分割存儲 工作效率 快速響應 拉鏈方式 數據查詢 數據存儲 系統統計 業務需求 源表 統計 壓縮 | ||
1.一種大數據存儲方法,其特征在于,包括:
將源表中的當前最新的數據存儲在當前快照表中;
將所述當前快照表中當天變動的數據按照時間拉鏈方式存儲在歷史拉鏈表中;
將歷史拉鏈表中當天公共的業務數據匯總存儲在過渡臨時表中;
根據業務需求,對過渡臨時表中的數據進行不同維度的組合并存儲在總賬壓縮表中。
2.根據權利要求1所述的大數據存儲方法,其特征在于,將源表中的當前最新的數據存儲在當前快照表中的步驟包括:
將當前快照表的數據設置第一標識;
將源表的數據設置第二標識,且所述源表的數據存在于當前快照表中;
將所述第一標識和第二標識進行關聯。
3.根據權利要求1所述的大數據存儲方法,其特征在于,將所述當前快照表中當天變動的數據按照時間拉鏈方式存儲在歷史拉鏈表中的步驟包括:
刪除歷史拉鏈表中的舊數據,修改預設結束日期;或者
在統計日期為年初時,若歷史拉鏈表中有數據時,則對所述數據進行截斷;若歷史拉鏈表中沒有數據時,將當前快照表的所有數據導到歷史拉鏈表中,確定起始日期為統計日期;
若統計日期不為年初時,若歷史拉鏈表中有數據,總歷史拉鏈表中結束日期等于預設結束日期,且其起始日期小于統計日期的數據關聯到當前快照表,并進行數據截斷;若歷史拉鏈表中沒有數據,將存在于當前快照表的數據,從當前快照表直接導到歷史拉鏈表,并確定起始日期為統計日期。
4.根據權利要求3所述的大數據存儲方法,其特征在于,在統計日期為年初時,若歷史拉鏈表中有數據時,則對所述數據進行截斷的步驟包括:
將歷史拉鏈表的中數據的起始日期小于統計日期的數據的預設結束日期修改為統計日期的前一天;
將當前快照表的所有數據導到歷史拉鏈表,起始日期為統計日期。
5.根據權利要求3所述的大數據存儲方法,其特征在于,若統計日期不為年初時,若歷史拉鏈表中有數據,總歷史拉鏈表中結束日期等于預設結束日期,且其起始日期小于統計日期的數據關聯到當前快照表,并進行數據截斷的步驟包括:
將修改歷史拉鏈表中數據的預設結束日期為統計日期的前一天;
將當前快照表的數據導到歷史拉鏈表,起始日期確定為統計日期。
6.根據權利要求1所述的大數據存儲方法,其特征在于,將歷史拉鏈表中當天公共的業務數據匯總存儲在過渡臨時表中的步驟包括:
獲取統計日期當天的當前快照表或者歷史拉鏈表中的所有數據,對所述數據進行業務邏輯運算,并保存到過渡臨時表中。
7.一種大數據存儲系統,其特征在于,包括:當前快照表存儲單元、歷史拉鏈表存儲單元、過渡臨時表存儲單元和總賬壓縮表存儲單元;
所述當前快照表存儲單元,用于將源表中的當前最新的數據存儲在當前快照表中;
所述歷史拉鏈表存儲單元,用于將所述當前快照表中當天變動的數據按照時間拉鏈方式存儲在歷史拉鏈表中;
所述過渡臨時表存儲單元,用于將歷史拉鏈表中當天公共的業務數據匯總存儲在過渡臨時表中;
所述總賬壓縮表存儲單元,用于根據業務需求,對過渡臨時表中的數據進行不同維度的組合并存儲在總賬壓縮表中。
8.根據權利要求7所述的大數據存儲系統,其特征在于,所述當前快照表存儲單元,還用于將當前快照表的數據設置第一標識;
將源表的數據設置第二標識,且所述源表的數據存在于當前快照表中;
將所述第一標識和第二標識進行關聯。
該專利技術資料僅供研究查看技術是否侵權等信息,商用須獲得專利權人授權。該專利全部權利屬于廣州天維信息技術股份有限公司,未經廣州天維信息技術股份有限公司許可,擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作,請聯系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/201810155732.6/1.html,轉載請聲明來源鉆瓜專利網。





