基于注意力機(jī)制循環(huán)神經(jīng)網(wǎng)絡(luò)的時(shí)間序列預(yù)測(cè)方法及系統(tǒng)
基本信息
申請(qǐng)?zhí)?/td> | CN202010723438.8 | 申請(qǐng)日 | - |
公開(kāi)(公告)號(hào) | CN111860785A | 公開(kāi)(公告)日 | 2020-10-30 |
申請(qǐng)公布號(hào) | CN111860785A | 申請(qǐng)公布日 | 2020-10-30 |
分類(lèi)號(hào) | G06N3/04(2006.01)I;G06N3/08(2006.01)I | 分類(lèi) | 計(jì)算;推算;計(jì)數(shù); |
發(fā)明人 | 吳雪敏;潘炎;劉冶 | 申請(qǐng)(專(zhuān)利權(quán))人 | 火烈鳥(niǎo)網(wǎng)絡(luò)(廣州)股份有限公司 |
代理機(jī)構(gòu) | 廣州駿思知識(shí)產(chǎn)權(quán)代理有限公司 | 代理人 | 中山大學(xué);火烈鳥(niǎo)網(wǎng)絡(luò)(廣州)股份有限公司 |
地址 | 510275廣東省廣州市海珠區(qū)新港西路135號(hào) | ||
法律狀態(tài) | - |
摘要
摘要 | 本發(fā)明涉及一種基于注意力機(jī)制循環(huán)神經(jīng)網(wǎng)絡(luò)的時(shí)間序列預(yù)測(cè)方法及系統(tǒng),包括:構(gòu)建一數(shù)據(jù)集,從所述數(shù)據(jù)集中確認(rèn)驅(qū)動(dòng)序列和目標(biāo)序列;構(gòu)建基于注意力機(jī)制的循環(huán)神經(jīng)網(wǎng)絡(luò)模型,所述網(wǎng)絡(luò)模型在驅(qū)動(dòng)序列之間、驅(qū)動(dòng)序列與目標(biāo)序列之間、時(shí)間三個(gè)維度中運(yùn)用注意力機(jī)制;將所述數(shù)據(jù)集劃分出訓(xùn)練集、驗(yàn)證集和測(cè)試集,對(duì)模型參數(shù)進(jìn)行定義,對(duì)所述網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練,通過(guò)以均方誤差為目標(biāo)函數(shù)的反向傳播算法來(lái)對(duì)所述參數(shù)進(jìn)行學(xué)習(xí);以及將所述測(cè)試集輸入到訓(xùn)練后的所述網(wǎng)絡(luò)模型中進(jìn)行預(yù)測(cè)。本發(fā)明有效解決了由于輸入序列過(guò)長(zhǎng)而出現(xiàn)的信息丟失導(dǎo)致性能瓶頸的問(wèn)題,同時(shí)有效捕捉較長(zhǎng)的時(shí)間內(nèi)序列之間的相關(guān)性,從而實(shí)現(xiàn)對(duì)時(shí)間序列的更精確的預(yù)測(cè)。?? |
