[發(fā)明專利]一種聯(lián)合試題分類與評分學習的主觀題自動評閱深度學習方法

在審

• 申請?zhí)枺?/td>: 202210597773.7
• 申請日: 2022-05-30
• 公開（公告）號: CN114969260A
• 公開（公告）日: 2022-08-30
• 發(fā)明（設(shè)計）人: 羅建華;陳意山;張?zhí)m芳;龔云
• 申請（專利權(quán)）人: 桂林旅游學院
• 主分類號: G06F16/33
• 分類號: G06F16/33;G06F16/35;G06F40/30;G06K9/62;G06N3/04;G06N3/08
• 代理公司: 南寧東智知識產(chǎn)權(quán)代理事務(wù)所(特殊普通合伙) 45117
• 代理人: 黎華艷

1.一種聯(lián)合試題分類與評分學習的主觀題自動評閱深度學習方法，其特征在于包括以下步驟：

S1.通過一個帶有殘差連接的CNN試題分類子模型對待評閱的主觀題進行試題分類，得到待評閱的主觀題試題類型；

S2.將待評閱的主觀題的試題類型嵌入和學生答案輸入序列及標準答案輸入序列的每一個字嵌入相連接，得到試題類型感知的學生答案感知輸入和標準答案感知輸入，然后將它們送入一個由CNN和Bi-LSTM組成的主觀題試卷評分子模型進行評分，得到學生答案的評分等級；

S3.通過聯(lián)合計算步驟S1和步驟S2的損失函數(shù)，訓練一個聯(lián)合試題分類與評分學習的主觀題自動評閱神經(jīng)網(wǎng)絡(luò)模型；

S4.使用步驟S3訓練成型的主觀題自動評閱神經(jīng)網(wǎng)絡(luò)模型，對任意的學生答案進行評閱；

所述CNN是英文Convolutional Neural Networks的縮寫，表示卷積神經(jīng)網(wǎng)絡(luò)，由文獻“Lawrence S,Giles CL,Tsoi AC et al.Face recognition:A convolutional neural-network approach.Neural Networks,IEEE Transactions on 1997；8(1):98-113”所提出；

所述Bi-LSTM是英文Didirectional Long Short-Term Memory的縮寫，表示雙向長短期記憶神經(jīng)網(wǎng)絡(luò)，其中LSTM神經(jīng)網(wǎng)絡(luò)是由文獻“Sepp Hochreiter and JurgenSchmidhuber.1997.Long short-term memory.¨Neural computation,9(8):1735–1780”所提出；

所述主觀題試題類型包括“定義類主觀題試題”、“順序類主觀題試題”和“一般類主觀題試題”，所述“定義類主觀題試題”是指要求學生對某個概念的定義作出解釋的主觀題，“順序類主觀題試題”是指答案包括多個按順序依次給出的要點的主觀題，所述“一般類主觀題試題”是指除定義類和順序類之外的其他主觀題。

2.根據(jù)權(quán)利要求1所述的一種聯(lián)合試題分類與評分學習的主觀題自動評閱深度學習方法，其特征在于：

所述步驟S1具體包括：

S1.1將待分類試題的字序列通過查表操作轉(zhuǎn)換為待分類試題的字嵌入序列T_e，計算過程如下所示：

其中，n表示待分類的試題的句子長度，OneHot(T)表示將試題字序列T轉(zhuǎn)換為獨熱矩陣，T_o為試題字序列T的獨熱矩陣，|V|表示字典V的大小，所述字典V為模型建立的包含所有字的字典，為與字典V對應(yīng)的預(yù)訓練的字嵌入矩陣，表示試題字序列T中第i個字所對應(yīng)的字嵌入向量，h表示字字嵌入向量的維度；

S1.2將待分類試題的字嵌入序列T_e輸入到一個采取零填充的卷積神經(jīng)網(wǎng)絡(luò)，獲得待分類試題的淺層語義表示T_c，計算過程如下所示：

其中，PCNN(·)表示一個采取零填充的卷積神經(jīng)網(wǎng)絡(luò)，(T_c)_ij表示T_c的第i行第j列元素，k為卷積核尺寸，d_c為卷積核的個數(shù)，表示待分類試題的字嵌入序列T_e進行零填充之后的結(jié)果，表示的第j列到第j+(k-1)列所組成的子矩陣，表示第i個卷積核的權(quán)重，表示第i個卷積核的偏置，表示卷積運算；

S1.3待分類試題的淺層語義表示T_c送入一個由兩個全連接層組成的前饋神經(jīng)網(wǎng)絡(luò)進行增強，得到待分類試題的增強語義表示計算過程如下所示：

其中，W₁^f,分別為兩個全連接層的權(quán)重矩陣，分別為兩個全連接層的偏置向量，ReLU是英文“Rectified Linear Unit”的縮寫，ReLU(·)表示采取修正線性單元運算的激活函數(shù)；

S1.4將待分類試題的淺層語義表示T_c與其增強語義表示T_f進行殘差連接，得到待分類試題的深層語義表示T_u，計算過程如下所示：

其中，LayerNorm(·)表示層歸一化處理；

S1.5對待分類試題的深層語義表示T_u進行最大池化處理，得到待分類試題的分類向量Z^c，計算過程如下所示：

其中，maxPooling(·)表示最大池化操作；

S1.6對待分類試題的分類向量Z^c執(zhí)行softmax的線性變，進行試題類型的概率計算，并得出最終的試題類型，計算過程如下:

o＝M^cZ^c+b^o (8)

其中，是試題類型表示矩陣，是一個偏置向量，d_y是試題類型的類別個數(shù)，表示Z^c在所有試題類型上的置信分數(shù)向量，y為一個試題類型，o_y表示Z^c標注為試題類型y的置信分數(shù)，o_i表示Z^c在第i個試題類型上的置信分數(shù)，Ρ(y|Z^c)表示待分類試題的分類向量Z^c在試題類型y上的預(yù)測概率，Y是所有試題類型的集合，表示返回使得Ρ(y|Z^c)為最大值的試題類型，y^*為待分類試題的最終分類的試題類型，exp(·)表示以自然常數(shù)e為底的指數(shù)函數(shù)。