[發明專利]序列標注方法、裝置、電子設備和存儲介質

在審

• 申請號: 202210023406.6
• 申請日: 2022-01-10
• 公開（公告）號: CN114492309A
• 公開（公告）日: 2022-05-13
• 發明（設計）人: 劉曉俊;張浩宇;吳飛;方四安
• 申請（專利權）人: 合肥訊飛數碼科技有限公司
• 主分類號: G06F40/117
• 分類號: G06F40/117;G06F40/194;G06F40/295;G06N3/04;G06N3/08;G06N5/02
• 代理公司: 北京路浩知識產權代理有限公司 11002
• 代理人: 程琛

本發明提供一種序列標注方法、裝置、電子設備和存儲介質，其中方法包括：確定待標注文本；將待標注文本輸入序列標注模型，得到序列標注模型輸出的標注結果；序列標注模型是基于教師模型和學生模型之間的隱藏層對應關系，應用教師模型對學生模型中的各隱藏層進行知識遷移得到的，隱藏層對應關系是基于教師模型中的各組隱藏層與學生模型中的各隱藏層之間的相似度確定的。本發明提供的方法、裝置、電子設備和存儲介質，在保證教師模型和學生模型選取的靈活的同時性，提高了知識遷移效率，保證了知識遷移的可靠性，由此得到的序列標注模型，能夠滿足工業場景需求的高可靠性和低時延、低耗能，有助于自動化的序列標注的應用擴展。

技術領域

本發明涉及自然語言處理技術領域，尤其涉及一種序列標注方法、裝置、電子設備和存儲介質。

背景技術

序列標注(Sequence Tagging)作為基礎的自然語言處理(Natural LanguageProcessing，NLP)任務，可用于解決一系列對字符進行分類的問題，例如分詞、詞性標注、命名實體識別、關系抽取等。

目前，用于解決序列標注任務的方法有最大熵模型、隱馬爾可夫(Hidden MarkovModel，HMM)模型和條件隨機場(Conditional Random Field，CRF)模型等。上述模型雖然能夠滿足工業應用下推理結果準確的要求，但是受限于模型參數大、算子復雜，難以滿足工業應用下推理時延低、能耗小的要求。

發明內容

本發明提供一種序列標注方法、裝置、電子設備和存儲介質，用以解決現有技術中用于序列標注的模型推理時延大、計算資源損耗大的問題。

本發明提供一種序列標注方法，包括：

確定待標注文本；

將所述待標注文本輸入序列標注模型，得到所述序列標注模型輸出的標注結果；

所述序列標注模型是基于教師模型和學生模型之間的隱藏層對應關系，應用所述教師模型對所述學生模型中的各隱藏層進行知識遷移得到的，所述隱藏層對應關系是基于所述教師模型中的各組隱藏層與所述學生模型中的各隱藏層之間的相似度確定的。

根據本發明提供的一種序列標注方法，所述序列標注模型是基于如下步驟得到的：

基于所述教師模型中的各組隱藏層與所述學生模型中的各隱藏層之間的相似度，確定當前的隱藏層對應關系；

基于所述當前的隱藏層對應關系，應用所述教師模型對所述學生模型中的各隱藏層進行知識遷移，得到知識遷移后的學生模型，并將知識遷移后的學生模型作為學生模型，更新所述教師模型中的各組隱藏層與所述學生模型中的各隱藏層之間的相似度，直至知識遷移完成，得到所述序列標注模型。

根據本發明提供的一種序列標注方法，所述將知識遷移后的學生模型作為學生模型，更新所述教師模型中的各隱藏層與所述學生模型中的各隱藏層之間的相似度，直至知識遷移完成，得到所述序列標注模型，包括：

將知識遷移后的學生模型作為學生模型，更新所述教師模型中的各組隱藏層與所述學生模型中的各隱藏層之間的相似度，直至所述當前的隱藏層對應關系固定；

基于固定的隱藏層對應關系，應用所述教師模型對所述學生模型中的各隱藏層進行知識遷移，直至知識遷移完成，得到所述序列標注模型。

根據本發明提供的一種序列標注方法，所述應用所述教師模型對所述學生模型中的各隱藏層進行知識遷移，包括：

基于維度轉換參數，將所述教師模型中的各組隱藏層的第一輸出和所述學生模型中的各隱藏層的第二輸出轉換至相同維度，所述維度轉換參數是基于所述教師模型的模型寬度和所述學生模型的模型寬度確定的；

基于維度轉換后的第一輸出和第二輸出，對所述學生模型中的各隱藏層進行知識遷移。