[發明專利]一種神經網絡模型參數的更新方法

有效

• 申請號: 202010182990.0
• 申請日: 2020-03-16
• 公開（公告）號: CN111459661B
• 公開（公告）日: 2021-08-27
• 發明（設計）人: 李林峰;黃海榮
• 申請（專利權）人: 湖北億咖通科技有限公司
• 主分類號: G06F9/50
• 分類號: G06F9/50;G10L15/06;G10L15/16;G06N3/04
• 代理公司: 北京智匯東方知識產權代理事務所(普通合伙) 11391
• 代理人: 關艷芬

本發明提供了一種神經網絡模型參數的更新方法，應用于客戶端。該更新方法包括：獲取神經網絡模型新參數；將所述神經網絡模型新參數存儲到保存有所述神經網絡模型的當前參數的內存中的可用存儲空間；調用保存的所述神經網絡模型新參數以更新所述神經網絡模型的當前參數。在無文件系統的嵌入式環境中，通過直接將神經網絡模型新參數保存到內存中并調用神經網絡模型新參數用于神經網絡模型識別，而無需重啟來重新加載神經網絡模型，實現了在不中斷識別處理業務的前提下方便快捷地對模型參數進行更新，提高系統可用性，提升用戶體驗。

技術領域

本發明涉及人工智能算法技術領域，特別是一種神經網絡模型參數的更新方法。

背景技術

智能語音交互是目前設備控制的研究熱點，正得到越來越廣泛的應用。特別是對于汽車車機(車機是車載信息娛樂系統的簡稱，也可稱為車載多媒體信息娛樂系統，車載導航系統等)，智能語音交互是重要功能。自然語言處理作為語音交互的核心。基于神經網絡的自然語言處理模型，需要比較大的計算力，通常被部署在云端服務器上。以汽車車機為例，汽車車機接收的輸入語音通過網絡傳輸到云端，由云端服務器部署的神經網絡模型完成推理，再把推理結果下發到汽車車機，從而完成自然語言處理。但是，當汽車行駛至網絡信號較差、甚至沒有網絡的地方時，用戶的語音交互請求將得不到正確的反饋，嚴重影響用戶體驗。

為了解決這個問題，出現了將基于神經網絡模型的自然語言處理模塊部署到客戶端(例如汽車車機)上的方式，使得能夠在客戶端上實現自然語言處理，這樣，即使在無網絡的情況下也能進行語音交互。但是，這種方式面臨對神經網絡模型進行更新的難題，特別是對于更新頻率較高的神經網絡模型參數來說，如何實現更新是必須考慮的問題。

一般來說，在Linux、Android等操作系統環境下更新神經網絡模型參數，可通過在文件系統中更新參數文件，然后再重新加載神經網絡模型即可完成模型參數的更新。但是，由于客戶端的計算力和存儲空間的限制，其上運行的通常不是Linux、Android等大型操作系統。以汽車車機為例，車機上進行神經網絡模型推理的芯片上運行的通常是簡單高效的實時操作系統(Real-Time Operating System，RTOS)，或者甚至沒有操作系統，由于實時操作系統一般都不帶文件系統，在這種情況下，就無法通過更新參數文件的方式來實現模型參數的更新。另外，通過更新參數文件后重新加載神經網絡模型的方式進行更新，在加載期間會造成自然語言處理業務的中斷，一定程度上影響用戶體驗。

發明內容

鑒于上述問題，提出了本發明以便提供一種克服上述問題或者至少部分地解決上述問題的神經網絡模型參數的更新方法。

本發明的一個目的在于提供一種應用于客戶端的神經網絡模型參數的更新方法，其能夠在不中斷識別處理業務的前提下實現參數更新，提高系統可用性，提升用戶體驗。

本發明的一個進一步的目的在于節省客戶端的內存占用，從而提高運行效率。

根據本發明實施例的一方面，提供了一種神經網絡模型參數的更新方法，應用于客戶端，所述更新方法包括：

獲取神經網絡模型新參數；

將所述神經網絡模型新參數存儲到保存有所述神經網絡模型的當前參數的內存中的可用存儲空間；調用保存的所述神經網絡模型新參數以更新所述神經網絡模型的當前參數。

可選地，所述調用保存的所述神經網絡模型新參數以更新所述神經網絡模型的當前參數，包括：

將指向所述神經網絡模型的當前參數所在內存中的存儲地址的第一參數指針切換至所述神經網絡模型新參數所在內存中的存儲空間所在地址；

調用所述第一參數指針以讀取所述神經網絡模型新參數。

可選地，所述更新方法還包括：

獲取所述神經網絡模型的預定義的測試樣本；