[發(fā)明專(zhuān)利]基于內(nèi)嵌注意力機(jī)制的循環(huán)神經(jīng)網(wǎng)絡(luò)的交通流量預(yù)測(cè)方法

有效

• 申請(qǐng)?zhí)枺?/td>: 202011119621.3
• 申請(qǐng)日: 2020-10-19
• 公開(kāi)（公告）號(hào): CN112257918B
• 公開(kāi)（公告）日: 2021-06-22
• 發(fā)明（設(shè)計(jì)）人: 呂宜生;魏澤兵;李志帥;劉皓;王飛躍
• 申請(qǐng)（專(zhuān)利權(quán)）人: 中國(guó)科學(xué)院自動(dòng)化研究所
• 主分類(lèi)號(hào): G06Q10/04
• 分類(lèi)號(hào): G06Q10/04;G06N3/04;G06N3/08;G06Q50/26
• 代理公司: 北京市恒有知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 11576
• 代理人: 郭文浩;尹文會(huì)

1.一種基于內(nèi)嵌注意力機(jī)制的循環(huán)神經(jīng)網(wǎng)絡(luò)的交通流量預(yù)測(cè)方法，其特征在于，該方法包括：

步驟S10，獲取待預(yù)測(cè)站點(diǎn)所處路段各檢測(cè)點(diǎn)的歷史交通流量數(shù)據(jù)；

步驟S20，將所述歷史交通流量數(shù)據(jù)以設(shè)定時(shí)間間隔τ劃分并進(jìn)行數(shù)據(jù)累加，獲得連續(xù)等時(shí)長(zhǎng)的歷史交通流量數(shù)據(jù)集合；

步驟S30，將所述歷史數(shù)據(jù)集合按照路段各檢測(cè)點(diǎn)的空間分布排列，獲得歷史交通流量數(shù)據(jù)矩陣；

步驟S40，將注意力機(jī)制嵌入RNN神經(jīng)網(wǎng)絡(luò)構(gòu)建隱藏時(shí)空關(guān)系特征提取模型，并通過(guò)時(shí)間窗口將所述歷史交通流量數(shù)據(jù)矩陣分割為長(zhǎng)度為κ的n個(gè)樣本數(shù)據(jù)，獲得樣本數(shù)據(jù)集；

步驟S50，基于所述樣本數(shù)據(jù)集，通過(guò)所述隱藏時(shí)空關(guān)系特征提取模型提取數(shù)據(jù)集之間的隱藏時(shí)空關(guān)系特征；

步驟S60，基于所述數(shù)據(jù)集之間的隱藏時(shí)空關(guān)系特征，通過(guò)單層全連接網(wǎng)絡(luò)預(yù)測(cè)獲得所述待預(yù)測(cè)站點(diǎn)下一時(shí)刻的交通流量預(yù)測(cè)結(jié)果；

其中，所述隱藏時(shí)空關(guān)系特征提取模型，其內(nèi)部轉(zhuǎn)換函數(shù)的公式表示為：

α_i＝softmax(s_i)

其中，w_h、w_s為權(quán)重矩陣參數(shù)；b_h、b_s為對(duì)應(yīng)的偏置參數(shù)；tanh為雙曲正切激活函數(shù)；x_t代表t時(shí)刻的輸入數(shù)據(jù)；代表基于t時(shí)刻輸入數(shù)據(jù)所提取的t時(shí)刻臨時(shí)隱藏狀態(tài)；s_i代表注意力層的隱藏狀態(tài)，其中i∈[1,2,3,…,m]，表示沿特征維度展開(kāi)的m個(gè)向量；α_i代表注意力權(quán)重；h_t和h_t-1分別代表t時(shí)刻和t-1時(shí)刻隱藏層狀態(tài)，包含對(duì)應(yīng)輸入數(shù)據(jù)之間的隱藏時(shí)空關(guān)系特征；μ代表可選擇的激活函數(shù)；λ代表可訓(xùn)練的殘差鏈接權(quán)重參數(shù)。

2.根據(jù)權(quán)利要求1所述的基于內(nèi)嵌注意力機(jī)制的循環(huán)神經(jīng)網(wǎng)絡(luò)的交通流量預(yù)測(cè)方法，其特征在于，步驟S20包括：

步驟S21，將所述歷史交通流量數(shù)據(jù)以設(shè)定時(shí)間間隔τ劃分，獲得劃分后的數(shù)據(jù)段集合；

步驟S22，分別對(duì)所述數(shù)據(jù)段集合中的數(shù)據(jù)段進(jìn)行數(shù)據(jù)累加，獲得連續(xù)等時(shí)長(zhǎng)的歷史交通流量數(shù)據(jù)集合。

3.根據(jù)權(quán)利要求2所述的基于內(nèi)嵌注意力機(jī)制的循環(huán)神經(jīng)網(wǎng)絡(luò)的交通流量預(yù)測(cè)方法，其特征在于，所述歷史交通流量數(shù)據(jù)矩陣，其表示為：

其中，表示第i個(gè)檢測(cè)站點(diǎn)的歷史交通流量數(shù)據(jù)，表示第i個(gè)檢測(cè)站點(diǎn)劃分的第j個(gè)時(shí)間間隔τ內(nèi)的歷史交通流量數(shù)據(jù)的累加。

4.根據(jù)權(quán)利要求1所述的基于內(nèi)嵌注意力機(jī)制的循環(huán)神經(jīng)網(wǎng)絡(luò)的交通流量預(yù)測(cè)方法，其特征在于，步驟S60中通過(guò)單層全連接網(wǎng)絡(luò)預(yù)測(cè)獲得所述待預(yù)測(cè)站點(diǎn)下一時(shí)刻的交通流量預(yù)測(cè)結(jié)果，其方法為：

其中，σ為sigmoid激活函數(shù)；w、b分別為全連接預(yù)測(cè)層的權(quán)重矩陣與偏置；為對(duì)應(yīng)預(yù)測(cè)值；h_t為t時(shí)刻模型隱藏層狀態(tài)，包含對(duì)應(yīng)輸入數(shù)據(jù)之間的隱藏時(shí)空關(guān)系特征。

5.根據(jù)權(quán)利要求1所述的基于內(nèi)嵌注意力機(jī)制的循環(huán)神經(jīng)網(wǎng)絡(luò)的交通流量預(yù)測(cè)方法，其特征在于，所述時(shí)空關(guān)系特征提取模型，其訓(xùn)練集與測(cè)試集相較于樣本數(shù)據(jù)集的比例關(guān)系為：

數(shù)據(jù)數(shù)量大于設(shè)定閾值時(shí)，訓(xùn)練集與測(cè)試集的比例關(guān)系為7:3；

數(shù)據(jù)數(shù)量小于設(shè)定閾值時(shí)，訓(xùn)練集與測(cè)試集的比例關(guān)系為9:1。

6.根據(jù)權(quán)利要求1所述的基于內(nèi)嵌注意力機(jī)制的循環(huán)神經(jīng)網(wǎng)絡(luò)的交通流量預(yù)測(cè)方法，其特征在于，所述樣本數(shù)據(jù)的長(zhǎng)度κ為所述隱藏時(shí)空關(guān)系特征提取模型的輸入數(shù)據(jù)序列長(zhǎng)度。