神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法、裝置、設(shè)備及存儲介質(zhì)

基本信息

申請?zhí)?/td> CN202011243227.0 申請日 -
公開(公告)號 CN112101530A 公開(公告)日 2020-12-18
申請公布號 CN112101530A 申請公布日 2020-12-18
分類號 G06N3/04;G06N3/08 分類 計(jì)算;推算;計(jì)數(shù);
發(fā)明人 李輝;范佳欣 申請(專利權(quán))人 南京集成電路產(chǎn)業(yè)服務(wù)中心有限公司
代理機(jī)構(gòu) 北京超凡宏宇專利代理事務(wù)所(特殊普通合伙) 代理人 曹瑞敏
地址 210000 江蘇省南京市江北新區(qū)星火路17號1號樓401室
法律狀態(tài) -

摘要

摘要 本申請?zhí)峁┮环N神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法、裝置、設(shè)備及存儲介質(zhì),涉及神經(jīng)網(wǎng)絡(luò)技術(shù)領(lǐng)域。該方法包括:采用訓(xùn)練樣本數(shù)據(jù)集對預(yù)設(shè)神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,獲取訓(xùn)練中的預(yù)設(shè)神經(jīng)網(wǎng)絡(luò)的實(shí)際輸出數(shù)據(jù),訓(xùn)練樣本數(shù)據(jù)集包括:至少一個(gè)訓(xùn)練樣本,每個(gè)訓(xùn)練樣本包括:樣本輸入數(shù)據(jù)、樣本輸入數(shù)據(jù)對應(yīng)的期望輸出數(shù)據(jù);根據(jù)實(shí)際輸出數(shù)據(jù)和期望輸出數(shù)據(jù),計(jì)算獲取誤差函數(shù);采用預(yù)設(shè)的反向傳播算法,根據(jù)相鄰兩輪的誤差函數(shù)的值,調(diào)整預(yù)設(shè)神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)步長,循環(huán)執(zhí)行訓(xùn)練,直到誤差函數(shù)滿足收斂條件完成訓(xùn)練。本申請方案通過損失函數(shù)的變化而自適應(yīng)的調(diào)整網(wǎng)絡(luò)的學(xué)習(xí)步長,可以使得網(wǎng)絡(luò)的學(xué)習(xí)效率更優(yōu),加快了算法的收斂速度,從而提高了網(wǎng)絡(luò)訓(xùn)練效率和網(wǎng)絡(luò)精度。