一種基于神經(jīng)網(wǎng)絡(luò)的梯度下降迭代次數(shù)預(yù)測方法及裝置

基本信息

申請?zhí)?/td> CN201810884710.3 申請日 -
公開（公告）號 CN109165724A 公開（公告）日 2019-01-08
申請公布號 CN109165724A 申請公布日 2019-01-08
分類號 G06N3/04;G06N3/08 分類 計算；推算；計數(shù);
發(fā)明人 王宏志;趙志強 申請（專利權(quán)）人 哈爾濱工創(chuàng)智能科技有限公司
代理機構(gòu) 北京格允知識產(chǎn)權(quán)代理有限公司 代理人 哈工大大數(shù)據(jù)（哈爾濱）智能科技有限公司
地址 150001 黑龍江省哈爾濱市松北區(qū)高新技術(shù)產(chǎn)業(yè)開發(fā)區(qū)哈工大沿海創(chuàng)意科技港及物聯(lián)網(wǎng)技術(shù)研發(fā)中心9號樓(創(chuàng)新路1616號)714-2室
法律狀態(tài) -

摘要

摘要 本發(fā)明涉及一種基于神經(jīng)網(wǎng)絡(luò)的梯度下降迭代次數(shù)預(yù)測方法，包括：輸入以梯度下降法求解形式表示的機器學(xué)習(xí)任務(wù)；收集歷史情況的數(shù)據(jù)，訓(xùn)練基于神經(jīng)網(wǎng)絡(luò)的梯度下降優(yōu)化器；將機器學(xué)習(xí)任務(wù)輸入訓(xùn)練得到的梯度下降優(yōu)化器，利用神經(jīng)網(wǎng)絡(luò)預(yù)測機器學(xué)習(xí)任務(wù)的最少迭代次數(shù)，以及對應(yīng)的梯度下降法。本發(fā)明在為機器學(xué)習(xí)任務(wù)選擇梯度下降法并預(yù)測迭代次數(shù)的過程中，利用歷史情況中的數(shù)據(jù)訓(xùn)練梯度下降優(yōu)化器，通過神經(jīng)網(wǎng)絡(luò)框架選擇合適的梯度下降法以及預(yù)測迭代次數(shù)，神經(jīng)網(wǎng)絡(luò)通過對數(shù)據(jù)的訓(xùn)練學(xué)習(xí)，能夠自主地更新隱層，更快找出合適的梯度下降法，同時得到的迭代次數(shù)的預(yù)估值不受所提供的數(shù)據(jù)和用戶要求的影響，減少優(yōu)化器對于人工的依賴。