[發(fā)明專利]信息處理方法、裝置及存儲介質(zhì)

有效

• 申請?zhí)枺?/td>: 202010143192.7
• 申請日: 2020-03-04
• 公開（公告）號: CN111400443B
• 公開（公告）日: 2023-10-20
• 發(fā)明（設(shè)計）人: 唐可欣;齊保元;孟二利
• 申請（專利權(quán)）人: 北京小米松果電子有限公司
• 主分類號: G06F16/33
• 分類號: G06F16/33;G06F16/35;G06F40/211;G06F40/289;G06F40/30
• 代理公司: 北京善任知識產(chǎn)權(quán)代理有限公司 11650
• 代理人: 康艷青

1.一種信息處理方法，其特征在于，包括：

獲取第一語料數(shù)據(jù)；

從配置文件中，確定與待訓(xùn)練模型的模型結(jié)構(gòu)相匹配的參數(shù)配置信息；

初始化所述待訓(xùn)練模型的模型參數(shù)獲得初始化參數(shù)；

將所述模型參數(shù)從所述初始化參數(shù)更新為所述參數(shù)配置信息中的第一配置參數(shù)；

基于所述第一語料數(shù)據(jù)，對所述模型參數(shù)更新后的待訓(xùn)練模型進(jìn)行訓(xùn)練得到目標(biāo)模型。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述方法還包括：

基于所述第一語料數(shù)據(jù)，至少獲得表征所述第一語料數(shù)據(jù)的分類特點(diǎn)的統(tǒng)計信息；

根據(jù)所述統(tǒng)計信息，確定與所述分類特點(diǎn)匹配的第二配置參數(shù)；

確定所述待訓(xùn)練模型中未更新為所述第一配置參數(shù)的初始化參數(shù)；

將未更新為所述第一配置參數(shù)的初始化參數(shù)更新為所述第二配置參數(shù)。

3.根據(jù)權(quán)利要求2所述的方法，其特征在于，所述基于所述第一語料數(shù)據(jù)，至少獲得表征所述第一語料數(shù)據(jù)的分類特點(diǎn)的統(tǒng)計信息，包括：

將所述第一語料數(shù)據(jù)的數(shù)據(jù)格式轉(zhuǎn)化為設(shè)定格式；

對轉(zhuǎn)化為所述設(shè)定格式的第一語料數(shù)據(jù)進(jìn)行預(yù)處理，得到第二語料數(shù)據(jù)；

基于所述第二語料數(shù)據(jù)，獲得包含有所述第二語料數(shù)據(jù)中文本類別個數(shù)以及文本長度的統(tǒng)計信息。

4.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述將所述模型參數(shù)從初始化參數(shù)更新為所述參數(shù)配置信息中的第一配置參數(shù)，包括：

基于所述待訓(xùn)練模型的類方法調(diào)用初始化函數(shù)，并基于所述初始化函數(shù)將所述待訓(xùn)練模型的初始化參數(shù)，更新為所述參數(shù)配置信息所包含的第一配置參數(shù)。

5.根據(jù)權(quán)利要求4所述的方法，其特征在于，所述方法還包括：

基于所述待訓(xùn)練模型的遞歸函數(shù)，調(diào)用所述類方法；

對被調(diào)用的所述類方法進(jìn)行實(shí)例化處理，得到所述待訓(xùn)練模型的實(shí)例化對象。

6.根據(jù)權(quán)利要求3所述的方法，其特征在于，所述方法還包括：

根據(jù)所述統(tǒng)計信息，確定所述待訓(xùn)練模型的損失函數(shù)，并基于所述配置文件更新所述損失函數(shù)的配置參數(shù)；

利用所述損失函數(shù)計算所述待訓(xùn)練模型中的訓(xùn)練損失；

基于所述訓(xùn)練損失，調(diào)整所述待訓(xùn)練模型的模型參數(shù)。

7.根據(jù)權(quán)利要求6所述的方法，其特征在于，所述根據(jù)所述統(tǒng)計信息，確定所述待訓(xùn)練模型的損失函數(shù)，并基于所述配置文件更新所述損失函數(shù)的配置參數(shù)，包括：

確定所述統(tǒng)計信息所包含的文本類別個數(shù)是否大于或者等于預(yù)設(shè)類別個數(shù)閾值；

如果所述文本類別個數(shù)大于或者等于所述預(yù)設(shè)類別個數(shù)閾值，將第一類損失函數(shù)確定為所述待訓(xùn)練模型的損失函數(shù)，并基于所述配置文件所包含的第一配置參數(shù)更新所述第一類損失函數(shù)的配置參數(shù)；

如果所述文本類別個數(shù)小于所述預(yù)設(shè)類別個數(shù)閾值，將第二類損失函數(shù)確定為所述待訓(xùn)練模型的損失函數(shù)，并基于所述配置文件所包含的第一配置參數(shù)更新所述第二類損失函數(shù)的配置參數(shù)。

8.根據(jù)權(quán)利要求1至7任一項所述的方法，其特征在于，所述初始化所述待訓(xùn)練模型的模型參數(shù)獲得初始化參數(shù)，包括：

檢測初始化輸入；

根據(jù)所述初始化輸入，初始化所述待訓(xùn)練模型的模型參數(shù)獲得所述初始化參數(shù)。

9.一種信息處理裝置，其特征在于，包括：

第一獲取模塊，配置為獲取第一語料數(shù)據(jù)；

第一確定模塊，配置為從配置文件中，確定與待訓(xùn)練模型的模型結(jié)構(gòu)相匹配的參數(shù)配置信息；

初始化模塊，配置為初始化所述待訓(xùn)練模型的模型參數(shù)獲得初始化參數(shù)；

第一更新模塊，配置為將所述模型參數(shù)從所述初始化參數(shù)更新為所述參數(shù)配置信息中的第一配置參數(shù)；

訓(xùn)練模塊，配置為基于所述第一語料數(shù)據(jù)，對所述模型參數(shù)更新后的待訓(xùn)練模型進(jìn)行訓(xùn)練得到目標(biāo)模型。