[發明專利]一種基于Attention深度學習模型的學生輟課預測方法

有效

• 申請號: 202010133647.7
• 申請日: 2020-03-02
• 公開（公告）號: CN111291940B
• 公開（公告）日: 2022-06-07
• 發明（設計）人: 常亮;張艷;劉鐵園;古天龍
• 申請（專利權）人: 桂林電子科技大學
• 主分類號: G06Q10/04
• 分類號: G06Q10/04;G06Q50/20;G06N3/04;G06N3/08
• 代理公司: 桂林文必達專利代理事務所(特殊普通合伙) 45134
• 代理人: 張學平

本發明公開了一種基于Attention深度學習模型的學生輟課預測方法，包括對行為記錄進行編碼和時間窗口化分處理，生成多個時間片行為向量矩陣；基于CNN網絡改進的卷積層對多個時間片行為向量矩陣進行處理得到多個具有局部關聯關系的特征向量矩陣；基于BI?GRU模型對多個具有局部關聯關系的特征向量矩陣進行時序特性的特征提取，生成多個具有時間序列關系的行為特征向量矩陣；基于Attention機制對各時刻隱層特征賦予不同的權值，將不同時刻的隱層狀態與權重進行加權求和，生成行為特征表示向量，并輸入分類層，通過Sigmoid函數進行預測，得到預測結果。通過考慮到學生學習行為之間的關系和不同行為特征對于輟課預測的影響程度實現預測，提高輟課預測的精準度。

技術領域

本發明涉及機器學習、深度學習及數據挖掘技術領域，尤其涉及一種基于Attention深度學習模型的學生輟課預測方法。

背景技術

隨著互聯網的飛速發展，教育模式開始發生變化，越來越多不同人群對教育質量以及教育內容的需求程度不一樣，因此大量的網絡課程學習平臺開始應運而生。MOOC這種大型在線學習平臺自2012年來開始出現以來，包括了來自世界各地的名校在MOOC上發布課程。學習平臺跨越了時間和空間甚至身份的局限，只要是愿意學習的人群，不論從事任何職業都可以通過注冊賬號進行網上在線學習，但是這也帶來嚴重的問題，輟課率非常高，已經高達90％以上。如何保障在線教育的資源的合理利用，保證在線學生能真正學到知識，因為許多的學生進行了網絡課程注冊但是卻沒有參與課程學習，這嚴重影響了在線教育質量，以及在線教育資源的浪費。如何幫助這些在線平臺降低輟課率，提高學習資源的利用率對于教育平臺的發展是至關重要的。傳統的關于MOOC輟課預測的相關研究，大多數都是對學生學習行為信息特征的簡單抽取，利用傳統的機器學習方法進行預測，沒有考慮到學習行為的序列關系，以及學習行為彼此之間的影響，對于輟課預測的精確度產生影響。因此提高學生輟課預測方法的精準度的問題亟待解決。

發明內容

本發明的目的在于提供一種基于Attention深度學習模型的學生輟課預測方法，旨在解決傳統輟課預測方法的精準度低的問題。

為實現上述目的，本發明提供了一種基于Attention深度學習模型的學生輟課預測方法，包括：

獲取原始在線學習行為相關數據的數據集進行篩選和預處理；

對篩選和預處理后的行為記錄進行編碼和時間窗口化分處理，生成多個時間片行為向量矩陣；

基于CNN網絡改進的卷積層對多個所述時間片行為向量矩陣進行處理得到多個具有局部關聯關系的特征向量矩陣；

基于BI-GRU模型對多個所述具有局部關聯關系的特征向量矩陣進行時序特性的特征提取，生成多個具有時間序列關系的行為特征向量矩陣；

基于Attention機制自適應地對各時刻隱層特征賦予不同的權值，將不同時刻的隱層狀態與權重進行加權求和，生成行為特征表示向量；

將所述行為特征表示向量輸入分類層，通過Sigmoid函數進行預測，得到預測結果。

在一實施方式中，獲取原始在線學習行為相關數據的數據集進行篩選和預處理，具體包括：

獲取原始在線學習行為相關數據的數據集；

將所述數據集進行篩選，選擇enrollment_id、time、source、event、course_id五個屬性形成一個實例新的行為記錄；

重新劃分訓練集和測試集。

在一實施方式中，對篩選和預處理后的行為記錄進行編碼和時間窗口化分處理，生成多個時間片行為向量矩陣，具體包括：

對于一個實例按照時間軸選取行為記錄的三個屬性source、event、course_id進行one-hot編碼；