[發明專利]TinyML設備的推理模型更新方法及其相關組件

在審

• 申請號: 202310077601.1
• 申請日: 2023-01-30
• 公開（公告）號: CN116070703A
• 公開（公告）日: 2023-05-05
• 發明（設計）人: 薛海軍;趙鑫鑫;李銳;姜凱
• 申請（專利權）人: 山東浪潮科學研究院有限公司
• 主分類號: G06N5/04
• 分類號: G06N5/04;G06N20/00
• 代理公司: 北京集佳知識產權代理有限公司 11227
• 代理人: 張影

1.一種TinyML設備的推理模型更新方法，其特征在于，應用于TinyML設備，包括：

發送推理模型信息獲取請求至云平臺，以便所述云平臺基于所述推理模型信息獲取請求生成與推理模型對應的推理模型信息；其中，所述推理模型為所述TinyML設備在進行機器學習推理工作時所需要的參數模型文件；

獲取所述云平臺返回的所述推理模型信息，并基于所述推理模型信息判斷當前是否滿足預設更新條件；

若滿足，則發送推理模型更新請求至所述云平臺，以便接收所述云平臺基于所述推理模型更新請求返回的推理模型更新信息；

利用所述推理模型更新信息對所述推理模型進行更新，以得到更新后推理模型。

2.根據權利要求1所述的TinyML設備的推理模型更新方法，其特征在于，所述發送推理模型信息獲取請求至云平臺，包括：

判斷所述TinyML設備當前是否為預設空閑狀態；

若是，則發送推理模型信息獲取請求至云平臺。

3.根據權利要求1所述的TinyML設備的推理模型更新方法，其特征在于，所述獲取所述云平臺返回的所述推理模型信息，并基于所述推理模型信息判斷當前是否滿足預設更新條件，包括：

獲取所述云平臺返回的包含升級信息、所述TinyML設備的標識信息、所述推理模型的模型類型以及模型版本號的所述推理模型信息；

提取所述推理模型信息中的所述升級信息，并判斷所述升級信息中目標標志是否為預設更新標志；

相應的，所述若滿足，則發送推理模型更新請求至所述云平臺，包括：

若是，則發送推理模型更新請求至所述云平臺。

4.根據權利要求1所述的TinyML設備的推理模型更新方法，其特征在于，所述發送推理模型更新請求至所述云平臺，以便接收所述云平臺基于所述推理模型更新請求返回的推理模型更新信息，包括：

發送推理模型更新請求至所述云平臺；

按照滑動窗口機制接收所述云平臺基于所述推理模型更新請求返回的推理模型更新信息，并將所述推理模型更新信息存儲至備份參數區。

5.根據權利要求4所述的TinyML設備的推理模型更新方法，其特征在于，所述按照滑動窗口機制接收所述云平臺基于所述推理模型更新請求返回的推理模型更新信息，并將所述推理模型更新信息存儲至備份參數區，包括：

通過所述云平臺基于所述推理模型更新請求生成推理模型更新信息，并將所述推理模型更新信息分成若干個數據包；

接收所述云平臺返回的當前數據包，并對所述當前數據包進行CRC校驗；

若校驗通過，則將所述當前數據包保存至備份參數區，并將生成的對應的確認信息發送至所述云平臺，以便接收所述云平臺基于所述確認信息返回的下一數據包。

6.根據權利要求5所述的TinyML設備的推理模型更新方法，其特征在于，所述利用所述推理模型更新信息對所述推理模型進行更新，以得到更新后推理模型之后，還包括：

分別更新所述備份參數區的區標識和運行參數區的區標識；其中，所述運行參數區為所述TinyML設備在進行機器學習推理工作過程中使用的參數區域。

7.根據權利要求1至6任一項所述的TinyML設備的推理模型更新方法，其特征在于，所述利用所述推理模型更新信息對所述推理模型進行更新，以得到更新后推理模型，包括：

獲取預設更新時間要求；其中，所述預設更新時間要求分為立即更新模型要求和延時更新模型要求；

基于所述預設更新時間要求，并利用所述推理模型更新信息對所述推理模型進行更新，以得到更新后推理模型。