[發明專利]訓練模型的方法及系統和預測序列數據的方法及系統

在審

• 申請號: 202110497221.4
• 申請日: 2019-04-28
• 公開（公告）號: CN113112030A
• 公開（公告）日: 2021-07-13
• 發明（設計）人: 姚權銘;時鴻志
• 申請（專利權）人: 第四范式（北京）技術有限公司
• 主分類號: G06N20/00
• 分類號: G06N20/00
• 代理公司: 北京銘碩知識產權代理有限公司 11286
• 代理人: 朱志玲;田方

提供了一種訓練模型的方法及系統和預測序列數據的方法及系統。訓練模型的方法及系統可獲取序列訓練樣本集合，并基于序列訓練樣本集合訓練機器學習模型，其中，所述機器學習模型是包括兩個隱狀態層的隱馬爾可夫模型，其中，第一隱狀態層中包括多個對象中的每個對象的個性化隱狀態，第二隱狀態層中包括由所述多個對象共享的多個共享隱狀態。預測序列數據的方法及系統可獲取對象的序列預測樣本，并利用所述機器學習模型，針對所述序列預測樣本執行預測來提供關于所述多個序列數據之后的下一序列數據的預測結果，其中，所述機器學習模型被事先訓練為針對按時間順序排列的一系列序列數據來預測所述一系列序列數據之后的下一序列數據。

本申請是申請日為2019年4月28日、申請號為201910349922.6、題為“訓練模型的方法及系統和預測序列數據的方法及系統”的專利申請的分案申請。

技術領域

本申請總體說來涉及人工智能領域，更具體地講，涉及一種訓練用于預測序列數據的機器學習模型的方法及系統、以及利用機器學習模型預測序列數據的方法及系統。

背景技術

隨著海量數據的出現，人工智能技術迅速發展，而機器學習是人工智能發展到一定階段的必然產物，其致力于通過計算的手段，從大量數據中挖掘有價值的潛在信息。

通過機器學習對連續出現的序列數據(例如，移動位置數據和音樂收聽序列等)進行建模來挖掘序列數據背后的規律對于各種應用場景非常重要。例如，個性化的序列行為在我們的日常生活中無處不在，模擬這種行為對很多應用場景都非常重要。例如，對軌跡數據(序列數據的一種)進行建模有助于了解用戶的流動性規律，從而可便于改進騎乘共享服務和交通；對音樂收聽序列進行建模有助于揭示人們行為背后的連續規律，從而可便于增強內容推薦的準確性；對用戶購買商品的順序進行建模有利于分析用戶的喜好，從而可便于定向廣告；諸如此類的場景還有很多，不限于此。在所有這些應用場景中，一個重要的特點是序列數據所反映出的序列模式是高度個性化的，不同的對象可能有完全不同的序列規律，因此，需要有效地對個性化序列數據進行學習的模型。

隱馬爾可夫模型(HMM)是用于對序列數據進行建模的模型之一，它不僅可刻畫序列模式，同時可發現隱藏的序列模式背后的狀態，因此常被用于序列建模。然而，利用HMM進行序列建模常存在以下問題，例如，如果我們為每個對象訓練一個HMM，那么由于針對該對象的數據太少，因此無法利用非常有限的數據訓練出可靠的HMM模型；而如果我們利用所有對象的數據為所有對象訓練一個HMM，則會導致訓練出的模型失去個性化。目前，雖然有研究者提出根據對象的序列數據的相似性對對象進行分組，并為每個組訓練一個HMM，但是，這種方法仍然會迫使不同的對象(同一組內的對象)共享一個HMM，從而導致模型仍然對于對象個性化的體現不夠，進而導致利用訓練出的模型預測對象序列數據時預測準確性難以滿足要求。

發明內容

本發明在于解決現有HMM模型無法同時處理訓練數據的稀缺性和不同對象的序列模式多樣性的問題，例如，在涉及對象序列數據(例如，序列行為)預測的場景中提高序列數據的預測準確性。

根據本申請示例性實施例，提供了一種訓練用于預測序列數據的機器學習模型的方法，所述方法可包括：獲取序列訓練樣本集合，其中，所述序列訓練樣本集合包括針對多個對象中的每個對象的多條序列訓練樣本，并且每個序列訓練樣本包括按時間順序排列的多個序列數據；基于所述序列訓練樣本集合，訓練所述機器學習模型，其中，所述機器學習模型是包括兩個隱狀態層的隱馬爾可夫模型，其中，第一隱狀態層中包括所述多個對象中的每個對象的個性化隱狀態，第二隱狀態層中包括由所述多個對象共享的多個共享隱狀態。

根據本申請另一示例性實施例，提供了一種存儲指令的計算機可讀存儲介質，其中，當所述指令被至少一個計算裝置運行時，促使所述至少一個計算裝置執行如上所述的訓練用于預測序列數據的機器學習模型的方法。