基于注意力機(jī)制循環(huán)神經(jīng)網(wǎng)絡(luò)的時(shí)間序列預(yù)測(cè)方法及系統(tǒng)

基本信息

申請(qǐng)?zhí)?/td> CN202010723438.8 申請(qǐng)日 -
公開(kāi)(公告)號(hào) CN111860785A 公開(kāi)(公告)日 2020-10-30
申請(qǐng)公布號(hào) CN111860785A 申請(qǐng)公布日 2020-10-30
分類(lèi)號(hào) G06N3/04(2006.01)I;G06N3/08(2006.01)I 分類(lèi) 計(jì)算;推算;計(jì)數(shù);
發(fā)明人 吳雪敏;潘炎;劉冶 申請(qǐng)(專(zhuān)利權(quán))人 火烈鳥(niǎo)網(wǎng)絡(luò)(廣州)股份有限公司
代理機(jī)構(gòu) 廣州駿思知識(shí)產(chǎn)權(quán)代理有限公司 代理人 中山大學(xué);火烈鳥(niǎo)網(wǎng)絡(luò)(廣州)股份有限公司
地址 510275廣東省廣州市海珠區(qū)新港西路135號(hào)
法律狀態(tài) -

摘要

摘要 本發(fā)明涉及一種基于注意力機(jī)制循環(huán)神經(jīng)網(wǎng)絡(luò)的時(shí)間序列預(yù)測(cè)方法及系統(tǒng),包括:構(gòu)建一數(shù)據(jù)集,從所述數(shù)據(jù)集中確認(rèn)驅(qū)動(dòng)序列和目標(biāo)序列;構(gòu)建基于注意力機(jī)制的循環(huán)神經(jīng)網(wǎng)絡(luò)模型,所述網(wǎng)絡(luò)模型在驅(qū)動(dòng)序列之間、驅(qū)動(dòng)序列與目標(biāo)序列之間、時(shí)間三個(gè)維度中運(yùn)用注意力機(jī)制;將所述數(shù)據(jù)集劃分出訓(xùn)練集、驗(yàn)證集和測(cè)試集,對(duì)模型參數(shù)進(jìn)行定義,對(duì)所述網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練,通過(guò)以均方誤差為目標(biāo)函數(shù)的反向傳播算法來(lái)對(duì)所述參數(shù)進(jìn)行學(xué)習(xí);以及將所述測(cè)試集輸入到訓(xùn)練后的所述網(wǎng)絡(luò)模型中進(jìn)行預(yù)測(cè)。本發(fā)明有效解決了由于輸入序列過(guò)長(zhǎng)而出現(xiàn)的信息丟失導(dǎo)致性能瓶頸的問(wèn)題,同時(shí)有效捕捉較長(zhǎng)的時(shí)間內(nèi)序列之間的相關(guān)性,從而實(shí)現(xiàn)對(duì)時(shí)間序列的更精確的預(yù)測(cè)。??