[發明專利]一種邊緣計算系統減少通信流量的數據處理方法

有效

• 申請號: 202010120291.3
• 申請日: 2020-02-26
• 公開（公告）號: CN111479286B
• 公開（公告）日: 2023-04-14
• 發明（設計）人: 袁少光;張小斐;郭志民;耿俊成;張衛東;劉昊;萬迪明;許冰;朱六璋;李映煉
• 申請（專利權）人: 國網河南省電力公司電力科學研究院;國網信息通信產業集團有限公司;國家電網有限公司
• 主分類號: H04W24/06
• 分類號: H04W24/06;H04W28/06
• 代理公司: 北京智繪未來專利代理事務所(普通合伙) 11689
• 代理人: 肖繼軍

本發明公開了一種邊緣計算系統減少通信流量的數據處理方法，包括以下步驟：(1)獲取邊緣計算系統的終端設備需要傳輸給邊緣節點的特征圖；(2)終端設備對特征圖進行矩陣變換，減少數據表示所需的字節數；(3)終端設備進一步對變換后的矩陣進行字節流壓縮，并發送給邊緣節點；(4)在邊緣節點接收字節流，并進行解壓縮以獲得近似的特征圖。本發明對在終端設備上運行的深度學習模型的精度造成可忽略的影響的前提下，大大降低了邊緣計算系統終端設備需傳輸的數據量，顯著縮短了傳輸延時，且壓縮本身所需的計算量少、可操作性好。

技術領域

本發明涉及邊緣計算領域，具體涉及一種邊緣計算系統減少通信流量的數據處理方法。

背景技術

近些年來，隨著海量設備接入互聯網，傳統的云計算、物聯網等計算模式已難以滿足指數級增長的數據對算力的需求。由此，邊緣計算模式隨之迅速崛起，成為學術界和工業界的熱門研究方向。和邊緣計算相輔相成的還有深度學習技術，隨著深度學習技術的不斷成熟，從智能推薦、語音識別到人臉檢測、視頻分析等，越來越多的人工智能相關應用噴涌而出，為人們的生活帶來了翻天覆地的變化。而邊緣端的海量設備產生的海量數據正好可以為深度學習應用注入新的活力，二者迅速結合誕生了一個新的方向叫邊緣智能，旨在利用深度學習技術來處理邊緣端的海量數據，從而挖掘出更多應用場景。目前，邊緣智能在諸如智慧城市、智慧電網、智慧醫療、智能家居、工業互聯網等典型應用中發揮著重要的作用。

為了從海量數據挖掘出有用的信息，通常需要在終端設備上運行深度學習模型(AI模型)，但是由于AI模型對計算、存儲和能耗的要求都比較高，終端設備通常無法滿足其要求。在AI模型的部署階段，即模型推理階段，為了在算力和能耗均受限的終端設備上實現低延時和高能效的模型推理，目前一種主流的解決方法是模型分割，目的是通過將深度學習模型中計算密集的部分下移到邊緣節點，邊緣節點負責完成后續的計算，以最終獲取更好的深度學習模型推理性能。

模型分割的具體做法是：首先選擇模型的某一中間層為分割層；然后將模型的前半部分，即從輸入層到分割層，放在終端設備上處理；而從分割層到輸出層的后半部分便下移到邊緣節點或者鄰近的移動設備上進行處理。終端設備只需要將分割層的輸出通過網絡傳輸給邊緣節點，然后邊緣節點接收到分割層的輸出之后，就能夠繼續后半部分模型的計算，最終得到模型的輸出。顯然，利用模型分割方法，終端設備只需要運行計算量偏小的一部分模型，大大降低了終端設備的能耗，同時也顯著地減少了在終端設備上運行模型的時間。除了在終端設備上運行前半部分模型的時間，整個模型推理階段的時延還包括分割層輸出的傳輸時間與邊緣節點運行后半部分模型的時間。由于邊緣節點的計算能力相對終端設備要強得多，在邊緣節點上運行后半部分模型的時間會相對少很多。因此，分割層輸出的傳輸時延是整個模型推理階段時延的關鍵組成部分。

為了降低分割層輸出的傳輸時延，則需要對其進行壓縮。傳統的壓縮方法一般是采用量化技術，而量化技術需要對深度學習模型進行重新訓練，大大增加了用戶的使用難度，因此本發明提出一種新的數據處理方法，使得用戶無需修改深度學習模型，同時大大降低對模型精度的影響。

發明內容

本發明的目的是針對現有技術中存在的不足，提出一種新的分割層輸出數據處理方法，最大程度地減少傳輸的數據量，從而達到降低時延的目的。

本發明提供了以下技術方案：

一種邊緣計算系統減少通信流量的數據處理方法，其特征在于：包括以下步驟：

(1)獲取邊緣計算系統的終端設備需要傳輸給邊緣節點的特征圖；

(2)對所述特征圖進行矩陣變換，所述矩陣變換減少了所述特征圖的字節數；

(3)對變換后的矩陣進行字節流壓縮，并發送給邊緣節點；

(4)在邊緣節點接收字節流，并進行解壓縮以獲得近似的特征圖。