[發明專利]利用原型來操縱深度序列模型

在審

• 申請號: 202011434199.0
• 申請日: 2020-12-10
• 公開（公告）號: CN112951420A
• 公開（公告）日: 2021-06-11
• 發明（設計）人: 徐盼盼;任騮;明遙;程富瑞;屈華民
• 申請（專利權）人: 羅伯特·博世有限公司
• 主分類號: G16H50/30
• 分類號: G16H50/30;G06N3/04;G06N3/08;G16H50/70
• 代理公司: 中國專利代理(香港)有限公司 72001
• 代理人: 任一方;周學斌

可以利用原型來操縱深度序列模型。顯示原型概覽，原型概覽包括由模型通過反向傳播學習的多個原型序列，原型序列中的每一個包括一系列事件，其中針對原型序列中的每一個，關于該模型對原型序列的使用來呈現統計性信息。接收調整原型序列中的一個或多個以微調該模型的輸入。使用如所調整的多個原型序列來更新該模型以創建更新的模型。將如更新的模型顯示在原型概覽中。

技術領域

本公開涉及利用原型來操縱深度序列模型。

背景技術

在序列數據分析中采用了深度學習模型來幫助進行決策。諸如遞歸神經網絡（RNN）之類的深度序列模型可以用于通過對電子健康記錄（EHR）進行建模、分析文本的主題或情感、以及理解音頻信號來預測患者狀態。這樣的技術已經在各種應用中實現了最先進的結果。

盡管RNN的性能出色，但是RNN通常被視為“黑箱”。這是由于其復雜的架構以及模型權重的巨大規模。可解釋性的這種缺乏限制了在許多關鍵決策場景中對RNN的采用，其中可能需要對預測背后的原因的理解。作為一個示例，歐盟最近的數據保護法規授予個體對機器學習系統所做出的決策的“解釋權”（參見例如Voigt、Paul和Axel Von dem Bussche的“The EU General Data Protection Regulation (GDPR)”，A Practical Guide，1st Ed.，Cham：Springer International Publishing（2017））。

除了可解釋性之外，部署深度序列模型的另一個挑戰是可操縱性。許多應用可以從支持領域專家利用其見解和領域知識來直接操縱模型中受益。例如，具有對心臟病的豐富經驗的醫生將獲得有價值的知識，該有價值的知識可以使心力衰竭風險預測模型受益。盡管深度神經網絡的端到端訓練可以減輕手動管理數據特征的需要，但是單獨的訓練無法為專家用戶提供用以操縱該模型的功能性。

發明內容

在一個或多個說明性示例中，描述了一種用于利用原型來操縱深度序列模型的方法。該方法包括：顯示視覺界面，該視覺界面包括原型概覽，該原型概覽示出了模型通過反向傳播學習的多個原型序列，原型序列中的每一個包括一系列事件，其中針對原型序列中的每一個，關于該模型對原型序列的使用來呈現統計性信息。該方法還包括：接收去往視覺界面的輸入，該輸入調整原型序列中的一個或多個以微調該模型；以及使用如所調整的多個原型序列來更新該模型以創建更新的模型。該方法進一步包括：在視覺界面中顯示對如更新的模型所標識的多個原型序列的更新。

在一個或多個說明性示例中，描述了一種用于利用原型來操縱深度序列模型的系統。該系統包括：顯示設備；存儲裝置，其被配置成維持原型序列和模型；以及處理器，其與顯示設備和存儲裝置進行通信。處理器被編程為顯示視覺界面，該視覺界面包括原型概覽，該原型概覽示出了模型通過反向傳播學習的多個原型序列，原型序列中的每一個包括一系列事件，其中針對原型序列中的每一個，關于該模型對原型序列的使用來呈現統計性信息。處理器還被編程為：接收去往視覺界面的輸入，該輸入調整原型序列中的一個或多個以微調該模型；使用如所調整的多個原型序列來更新該模型以創建更新的模型；以及在視覺界面中顯示對如更新的模型所標識的多個原型序列的更新。

附圖說明

圖1圖示了用于提供視覺界面以用于利用原型來操縱深度序列模型的系統的示例架構；

圖2A、圖2B和圖2C共同圖示了該系統的視覺界面的示例；

圖3圖示了該系統的視覺界面的原型概覽的示例比較模式；

圖4圖示了該系統的視覺界面的編輯圖的示例細節；

圖5A和圖5B共同圖示了該系統的該視覺界面的序列查詢/編輯小部件的示例細節；

圖6圖示了用于在該系統中使用的模型的詳細視圖；以及

圖7圖示了用于提供視覺界面以用于利用原型來操縱深度序列模型的示例過程。

具體實施方式