[發明專利]一種深度學習訓練過程數據轉化為可視化數據方法和系統

在審

• 申請號: 202110691724.5
• 申請日: 2021-06-22
• 公開（公告）號: CN113419727A
• 公開（公告）日: 2021-09-21
• 發明（設計）人: 胡勝健;楊非;王宏升;單海軍
• 申請（專利權）人: 之江實驗室
• 主分類號: G06F8/38
• 分類號: G06F8/38;G06F16/904
• 代理公司: 杭州浙科專利事務所(普通合伙) 33213
• 代理人: 孫孟輝

1.一種深度學習訓練過程數據轉化為可視化數據方法，其特征在于，包括如下步驟：

步驟一，定義可視化數據類型：基于Protobuf以自定義或編寫的文件名為xxx的Proto文件， 生成包含同一文件名的xxx_pb2.py代碼；

步驟二，數據轉化：Python端通過調用summary_xxx.py將相應的訓練過程數據轉化為可視化數據，并組裝成Protobuf類型的message對象或者Json字符串，C++端通過調用event_writer_helper組件或者summary_converter.h將獲取的訓練過程數據根據不同的需求進行處理后轉化為可視化數據，并組裝成Protobuf類型的message對象；

步驟三，數據生成：將Python端或C++端處理完成的可視化數據，經過Protobuf的message對象首尾字符串的編碼之后寫入到日志文件。

2.如權利要求1所述的一種深度學習訓練過程數據轉化為可視化數據方法，其特征在于，所述Proto文件包括：summary.proto、graph.proto、tensor.proto、projector.proto和event.proto。

3.如權利要求1所述的一種深度學習訓練過程數據轉化為可視化數據方法，其特征在于，所述python端通過調用summary_xxx.py將相應的訓練過程數據轉化為可視化數據，具體包括：

Python端調用summary_graph.py將從C++端獲取到的計算圖和結構圖轉化為對應的可視化數據；

Python端調用summary_hparams.py將用戶輸入的超參數轉化為對應的可視化數據，并傳到 C++端；

Python端調用summary_projector.py將C++端獲取的訓練過程數據轉化為對應的降維分析和異常檢測可視化數據；

所述C++端通過調用event_writer_helper組件或者summary_converter.h將獲取的訓練過程數據根據不同的需求進行處理后轉化為可視化數據，具體包括：

C++端調用histogram.h將Python端傳來的Tensor轉化為對應的統計分析可視化數據；

C++端直接將其從Python端獲取或者用戶輸入的標量數據和文本數據組裝成Protobuf格式的消息轉化為可視化數據；

C++端通過調用event_writer_helper組件，將圖像數據的格式轉換成NHWC的格式，然后將圖像數據按batch維進行切割得到多個單獨的Image并寫入Protobuf，生成相應的可視化數據。

4.如權利要求3所述的一種深度學習訓練過程數據轉化為可視化數據方法，其特征在于，所述C++端通過調用summary_converter.h文件中的ConvertProtobufMsg2Json方法，將從C++端生成的計算圖和結構圖按字段進行篩選和簡化重組，利用Protobuf的reflection特性，從Protobuf格式轉換成對應的Json格式，并將轉化的可視化數據傳到Python端。

5. 如權利要求3所述的一種深度學習訓練過程數據轉化為可視化數據方法，其特征在于，所述超參數包括：IntegerRange、RealRange、ValueSet以及 Metric，且超參數支持string、int、 double等內置類型。

6. 如權利要求1所述的一種深度學習訓練過程數據轉化為可視化數據方法，其特征在于，所述步驟三，具體包括： Python端直接將message對象或者Json字符串寫到可視化日志文件中；C++端將可視化數據的message對象，通過events_writer日志持久化組件寫到可視化日志文件中。