[發明專利]一種時序數據的壓縮存儲方法、電子設備及存儲介質有效
| 申請號: | 201711422662.8 | 申請日: | 2017-12-25 |
| 公開(公告)號: | CN108197181B | 公開(公告)日: | 2023-04-18 |
| 發明(設計)人: | 鄧敏;黃杵銘 | 申請(專利權)人: | 廣州亦云信息技術股份有限公司 |
| 主分類號: | G06F16/174 | 分類號: | G06F16/174;G06F16/13;G06F16/172 |
| 代理公司: | 廣州市越秀區哲力專利商標事務所(普通合伙) 44288 | 代理人: | 邵穗娟;湯喜友 |
| 地址: | 510260 廣東省廣州市海珠區新港*** | 國省代碼: | 廣東;44 |
| 權利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關鍵詞: | 一種 時序 數據 壓縮 存儲 方法 電子設備 介質 | ||
1.一種時序數據的壓縮存儲方法,其特征在于,包括以下步驟:
分配步驟:為測點的名稱、標簽鍵及標簽值均分配一個唯一標識UID,每個UID的長度均為3個字節;
建表步驟:建立測點索引表,用于記錄測點的名稱、標簽鍵及標簽值與UID的映射關系,包括正向映射及反向映射;建立測點數據表,用于記錄測點的時序數據,在測點數據表中,將同一測點屬于同一時間周期的時序數據記錄在同一行;在測點數據表中,每一時序數據行的rowKey包括兩部分,其中之一是時序數據所屬測點的UID信息,其中另一為時間標識,所述時間標識為該行所屬時間周期的起始時間;
在測點索引表中,包括兩個列族,其中一個列族,其包括三種類型的列成員,分別表示測點的名稱、標簽鍵及標簽值;另一個列族,其包括三種類型的列成員,分別表示測點的名稱、標簽鍵及標簽值這三者所對應的UID;在測點索引表中,其數據行的rowKey有6種類型,分別為測點的名稱、標簽鍵、標簽值以及這三者所對應的UID;
合并步驟:對測點數據表中屬于同一行的時序數據,采用旋轉門算法對該行的時序數據進行壓縮,并且將壓縮后一行多列的時序數據合并成一條一行一列的記錄;
所述合并步驟中,對屬于同一行的時序數據,取這些時序數據的相鄰差值的絕對值的平均值,作為該行的壓縮閾值;
所述旋轉門算法通過以下步驟對該行的時序數據進行壓縮:
按照數據生成時間的先后順序壓縮該行的時序數據,判斷當前的待壓縮時序數據是否為該行的第一個時序數據,如果是,那么保存該時序數據,并且以該時序數據作為壓縮起點;
根據所述壓縮閾值,計算出當前壓縮起點的上軸點和下軸點,對于當前的待壓縮時序數據,計算出該時序數據與所述上軸點的斜率K11,如果該時序數據的前一時序數據為當前的壓縮起點,那么將K11作為當前的待壓縮時序數據的上斜率,否則,若前一時序數據的上斜率為K10,取K11與K10中的較大值作為當前的待壓縮時序數據的上斜率;對于當前的待壓縮時序數據,計算出該時序數據與所述下軸點的斜率K21,如果該時序數據的前一時序數據為當前的壓縮起點,那么將K21作為當前的待壓縮時序數據的下斜率,否則,若前一時序數據的下斜率為K20,取K21與K20中的較小值作為當前的待壓縮時序數據的下斜率;
如果當前的待壓縮時序數據的上斜率大于或等于其下斜率,那么保存前一時序數據,并且以該時序數據作為新的壓縮起點,繼續壓縮該行的時序數據,直至該行所有的時序數據壓縮完;
存儲步驟:將測點索引表及測點數據表以Key-Value的形式存儲于存儲文件。
2.如權利要求1所述的時序數據的壓縮存儲方法,其特征在于,在測點數據表中,其時序數據行的時間周期的長度取為1小時,并且rowKey中的時間標識為整點時間。
3.一種電子設備,包括存儲器、處理器以及存儲在存儲器上并且可在處理器上運行的計算機程序,其特征在于:所述處理器執行所述計算機程序時,實現如權利要求1-2任一項所述的時序數據的壓縮存儲方法。
4.一種存儲介質,其上存儲有計算機程序,其特征在于:所述計算機程序被處理器執行時,實現如權利要求1-2任一項所述的時序數據的壓縮存儲方法。
該專利技術資料僅供研究查看技術是否侵權等信息,商用須獲得專利權人授權。該專利全部權利屬于廣州亦云信息技術股份有限公司,未經廣州亦云信息技術股份有限公司許可,擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作,請聯系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/201711422662.8/1.html,轉載請聲明來源鉆瓜專利網。
- 數據顯示系統、數據中繼設備、數據中繼方法、數據系統、接收設備和數據讀取方法
- 數據記錄方法、數據記錄裝置、數據記錄媒體、數據重播方法和數據重播裝置
- 數據發送方法、數據發送系統、數據發送裝置以及數據結構
- 數據顯示系統、數據中繼設備、數據中繼方法及數據系統
- 數據嵌入裝置、數據嵌入方法、數據提取裝置及數據提取方法
- 數據管理裝置、數據編輯裝置、數據閱覽裝置、數據管理方法、數據編輯方法以及數據閱覽方法
- 數據發送和數據接收設備、數據發送和數據接收方法
- 數據發送裝置、數據接收裝置、數據收發系統、數據發送方法、數據接收方法和數據收發方法
- 數據發送方法、數據再現方法、數據發送裝置及數據再現裝置
- 數據發送方法、數據再現方法、數據發送裝置及數據再現裝置





