一種基于神經(jīng)網(wǎng)絡(luò)的梯度下降迭代次數(shù)預(yù)測(cè)方法及裝置

基本信息

申請(qǐng)?zhí)?/td> CN201810884710.3 申請(qǐng)日 -
公開(kāi)（公告）號(hào) CN109165724A 公開(kāi)（公告）日 2019-01-08
申請(qǐng)公布號(hào) CN109165724A 申請(qǐng)公布日 2019-01-08
分類號(hào) G06N3/04;G06N3/08 分類 計(jì)算；推算；計(jì)數(shù);
發(fā)明人 王宏志;趙志強(qiáng) 申請(qǐng)（專利權(quán)）人 哈爾濱工創(chuàng)智能科技有限公司
代理機(jī)構(gòu) 北京格允知識(shí)產(chǎn)權(quán)代理有限公司 代理人 哈工大大數(shù)據(jù)（哈爾濱）智能科技有限公司
地址 150001 黑龍江省哈爾濱市松北區(qū)高新技術(shù)產(chǎn)業(yè)開(kāi)發(fā)區(qū)哈工大沿海創(chuàng)意科技港及物聯(lián)網(wǎng)技術(shù)研發(fā)中心9號(hào)樓(創(chuàng)新路1616號(hào))714-2室
法律狀態(tài) -

摘要

摘要 本發(fā)明涉及一種基于神經(jīng)網(wǎng)絡(luò)的梯度下降迭代次數(shù)預(yù)測(cè)方法，包括：輸入以梯度下降法求解形式表示的機(jī)器學(xué)習(xí)任務(wù)；收集歷史情況的數(shù)據(jù)，訓(xùn)練基于神經(jīng)網(wǎng)絡(luò)的梯度下降優(yōu)化器；將機(jī)器學(xué)習(xí)任務(wù)輸入訓(xùn)練得到的梯度下降優(yōu)化器，利用神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)機(jī)器學(xué)習(xí)任務(wù)的最少迭代次數(shù)，以及對(duì)應(yīng)的梯度下降法。本發(fā)明在為機(jī)器學(xué)習(xí)任務(wù)選擇梯度下降法并預(yù)測(cè)迭代次數(shù)的過(guò)程中，利用歷史情況中的數(shù)據(jù)訓(xùn)練梯度下降優(yōu)化器，通過(guò)神經(jīng)網(wǎng)絡(luò)框架選擇合適的梯度下降法以及預(yù)測(cè)迭代次數(shù)，神經(jīng)網(wǎng)絡(luò)通過(guò)對(duì)數(shù)據(jù)的訓(xùn)練學(xué)習(xí)，能夠自主地更新隱層，更快找出合適的梯度下降法，同時(shí)得到的迭代次數(shù)的預(yù)估值不受所提供的數(shù)據(jù)和用戶要求的影響，減少優(yōu)化器對(duì)于人工的依賴。