基于注意力機制循環(huán)神經(jīng)網(wǎng)絡(luò)的時間序列預(yù)測方法及系統(tǒng)

基本信息

申請?zhí)?/td> CN202010723438.8 申請日 -
公開（公告）號 CN111860785A 公開（公告）日 2020-10-30
申請公布號 CN111860785A 申請公布日 2020-10-30
分類號 G06N3/04(2006.01)I;G06N3/08(2006.01)I 分類 計算；推算；計數(shù);
發(fā)明人 吳雪敏;潘炎;劉冶 申請（專利權(quán)）人 火烈鳥網(wǎng)絡(luò)（廣州）股份有限公司
代理機構(gòu) 廣州駿思知識產(chǎn)權(quán)代理有限公司 代理人 中山大學(xué);火烈鳥網(wǎng)絡(luò)（廣州）股份有限公司
地址 510275廣東省廣州市海珠區(qū)新港西路135號
法律狀態(tài) -

摘要

摘要 本發(fā)明涉及一種基于注意力機制循環(huán)神經(jīng)網(wǎng)絡(luò)的時間序列預(yù)測方法及系統(tǒng)，包括：構(gòu)建一數(shù)據(jù)集，從所述數(shù)據(jù)集中確認(rèn)驅(qū)動序列和目標(biāo)序列；構(gòu)建基于注意力機制的循環(huán)神經(jīng)網(wǎng)絡(luò)模型，所述網(wǎng)絡(luò)模型在驅(qū)動序列之間、驅(qū)動序列與目標(biāo)序列之間、時間三個維度中運用注意力機制；將所述數(shù)據(jù)集劃分出訓(xùn)練集、驗證集和測試集，對模型參數(shù)進行定義，對所述網(wǎng)絡(luò)模型進行訓(xùn)練，通過以均方誤差為目標(biāo)函數(shù)的反向傳播算法來對所述參數(shù)進行學(xué)習(xí)；以及將所述測試集輸入到訓(xùn)練后的所述網(wǎng)絡(luò)模型中進行預(yù)測。本發(fā)明有效解決了由于輸入序列過長而出現(xiàn)的信息丟失導(dǎo)致性能瓶頸的問題，同時有效捕捉較長的時間內(nèi)序列之間的相關(guān)性，從而實現(xiàn)對時間序列的更精確的預(yù)測。??