[發明專利]用于生成模型的方法和裝置、用于識別信息的方法和裝置

有效

• 申請號: 201810529022.5
• 申請日: 2018-05-29
• 公開（公告）號: CN108764487B
• 公開（公告）日: 2022-07-08
• 發明（設計）人: 謝永康;施恩;陳曉宇;李曙鵬;阮世珉;吳拓邦;趙穎;張亮伙
• 申請（專利權）人: 北京百度網訊科技有限公司
• 主分類號: G06N3/08
• 分類號: G06N3/08;G06N3/10;G06N3/04;G06K9/62
• 代理公司: 北京英賽嘉華知識產權代理有限責任公司 11204
• 代理人: 王達佐;馬曉亞

本申請實施例公開了用于生成模型的方法和裝置、用于識別信息的方法和裝置。用于生成模型的方法的一具體實施方式包括：獲取待轉換模型、待轉換模型的拓撲結構描述信息和目標設備的設備信息；基于拓撲結構描述信息和設備信息，對待轉換模型的參數和算子進行轉換，得到適用于目標設備的經轉換后的模型；基于經轉換后的模型生成用于進行深度學習預測的模型。該實施方式實現了將現有的模型轉換為能夠適用于目標設備的用于進行深度學習預測的模型。

技術領域

本申請實施例涉及計算機技術領域，具體涉及用于生成模型的方法和裝置、用于識別信息的方法和裝置。

背景技術

隨著深度學習逐漸被各行各業采用，通用的深度學習模型往往無法滿足用戶的定制化的AI(Artificial Intelligence，人工智能)需求。越來越多的用戶會使用特定的數據，定制化訓練自己的模型以適應特定的場景，如圖像分類、物體檢測、視頻分析、聲音識別、聲紋識別等等。由于現有的模型生成工具通常支持有限的硬件設備，因此，用戶利用現有的模型生成工具生成的模型往往適用于特定的硬件設備，而無法適用于除該特定的硬件設備以外的設備。

發明內容

本申請實施例提出了用于生成模型的方法和裝置、用于識別信息的方法和裝置。

第一方面，本申請實施例提供了一種用于生成模型的方法，該方法包括：獲取待轉換模型、待轉換模型的拓撲結構描述信息和目標設備的設備信息；基于拓撲結構描述信息和設備信息，對待轉換模型的參數和算子進行轉換，得到適用于目標設備的經轉換后的模型；基于經轉換后的模型生成用于進行深度學習預測的模型。

在一些實施例中，設備信息包括異構計算芯片類型標識和指令集版本；以及基于拓撲結構描述信息和設備信息，對待轉換模型的參數和算子進行轉換，包括：獲取預置的與異構計算芯片類型標識和指令集版本相關聯的參數轉換模板和算子轉換模板；對于待轉換模型所包括的層，基于拓撲結構描述信息解析該層中的參數和算子，基于參數轉換模板對該層中的參數進行轉換，以及基于算子轉換模板對該層中的算子進行轉換。

在一些實施例中，基于經轉換后的模型生成用于進行深度學習預測的模型，包括：響應于檢測到模型壓縮指令，對經轉換后的模型進行模型壓縮指令所指示的壓縮操作，得到經壓縮后的模型，將經壓縮后的模型作為用于進行深度學習預測的模型；其中，模型壓縮指令響應于預設的模型壓縮選項被選中而生成，模型壓縮選項包括以下至少一項：用于指示降低參數的精度的第一模型壓縮選項、用于指示對模型中的層進行合并或裁剪的第二模型壓縮選項、用于指示對模型的參數進行裁剪的第三模型壓縮選項。

在一些實施例中，上述方法還包括：向用戶提供與目標設備相應的軟件開發工具包，其中，軟件開發工具包用于提供與用于進行深度學習預測的模型相關聯的模型預測接口。

在一些實施例中，上述方法還包括：生成與目標設備相應的、集成有用于進行深度學習預測的模型的應用。

第二方面，本申請實施例提供了一種用于識別信息的方法，該方法包括：響應于接收到與采用如第一方面中任一實現方式描述的方法生成的用于進行深度學習預測的模型相關聯的待識別信息，確定當前所處的預測模式，其中，預測模式包括用于指示在目標設備本地進行預測的離線預測模式，目標設備是用于進行深度學習預測的模型所在的設備；響應于確定當前處于離線預測模式，利用用于進行深度學習預測的模型對待識別信息進行識別。

在一些實施例中，預測模式還包括混合模式，混合模式用于指示基于網絡狀況選取進行在線預測或離線預測；以及上述方法還包括：響應于確定當前處于混合模式，確定目標設備當前是否與云服務器通信連接；響應于確定目標設備當前未與云服務器通信連接，利用用于進行深度學習預測的模型對待識別信息進行識別。