[發明專利]一種用于文本情感分類的深度遷移學習方法

在審

• 申請號: 202010550138.4
• 申請日: 2020-06-16
• 公開（公告）號: CN111680160A
• 公開（公告）日: 2020-09-18
• 發明（設計）人: 代祖華;牟巧玲;李泓毅;王玉環
• 申請（專利權）人: 西北師范大學
• 主分類號: G06F16/35
• 分類號: G06F16/35;G06N3/04;G06N3/08
• 代理公司: 西安合創非凡知識產權代理事務所(普通合伙) 61248
• 代理人: 楊蕾

1.一種用于文本情感分類的深度遷移學習方法，其特征在于，包括：

源域預訓練，選取較大規模的數據作為源域訓練樣本，針對目標識別任務進行有監督地訓練卷積神經網絡，得到預訓練模型；

特征信息遷移，構建與預訓練模型具有相同結構的卷積神經網絡，將較小規模的文本數據作為目標域的目標任務，利用上一步獲得的預訓練模型中除全連接層以外的所有層參數初始化該網絡對應層的參數，采用目標數據作為訓練樣本對網絡進行微調。

2.根據權利要求1所述的用于文本情感分類的深度遷移學習方法，其

特征在于，所述特征信息遷移包括前饋網絡處理和誤差反向傳播處理。

3.根據權利要求2所述的用于文本情感分類的深度遷移學習方法，其

特征在于，所述前饋網絡處理包括：

S1，計算卷積，提取句子矩陣Sj 的局部特征，得到卷積層的輸出特征圖Ci；

S2，對特征圖Ci進行最大值池化，得到池化層的輸出特征圖；

S3，將先前層提取到的特征圖通過全連接層連接并輸出對應各類的特征圖，最后利用Softmax 回歸模型，得到分類結果。

4.根據權利要求3所述的用于文本情感分類的深度遷移學習方法，其

特征在于，所述步驟S1包括：

卷積層用大小為的濾波器對句子矩陣執行卷積操作，提取的局部特征：

其中句子矩陣表示；

（1）

其中: 代表 的濾波器，b代表偏置量；代表通過Relu進行非線性操作的函數； 代表 中從到共行向量；代表通過卷積操作得到的局部特征；隨著濾波器依靠步長為 1從上往下進行滑動，走過整個Sj最終得到局部特征向量集合C:

（2）。

5.根據權利要求3所述的用于文本情感分類的深度遷移學習方法，其

特征在于，所述步驟S2包括：

對卷積操作得到的局部特征采用最大池化的方法提取值最大的特征代替整個局部特征，通過池化操作大幅降低特征向量的大小；對特征圖Ci進行最大值池化，得到池化層的輸出特征圖：

（3）。

6.根據權利要求2所述的用于文本情感分類的深度遷移學習方法，其

特征在于，所述誤差反向傳播處理包括：

根據交叉熵損失函數計算梯度，采用誤差反向傳播的方法調整網絡的權值和偏置參數，直到誤差收斂。