一種基于梯度平衡的多類別模型訓(xùn)練方法、介質(zhì)及設(shè)備

基本信息

申請?zhí)?/td> CN202011509570.5 申請日 -
公開(公告)號 CN112633359A 公開(公告)日 2021-04-09
申請公布號 CN112633359A 申請公布日 2021-04-09
分類號 G06K9/62;G06N3/04;G06N20/00 分類 計算;推算;計數(shù);
發(fā)明人 許軼博;潘澤文;范宏偉;李佳斌 申請(專利權(quán))人 成都艾特能電氣科技有限責(zé)任公司
代理機(jī)構(gòu) 成都九鼎天元知識產(chǎn)權(quán)代理有限公司 代理人 胡川
地址 610000 四川省成都市高新區(qū)天辰路88號1棟6層1號
法律狀態(tài) -

摘要

摘要 本發(fā)明提供了一種基于梯度平衡的多類別模型訓(xùn)練方法、介質(zhì)及設(shè)備,其中模型訓(xùn)練方法包括通過將訓(xùn)練樣本數(shù)據(jù)輸入到選定的神經(jīng)網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練獲得損失函數(shù);統(tǒng)計訓(xùn)練模型時損失函數(shù)的梯度分布;根據(jù)分布結(jié)果分配樣本權(quán)重;權(quán)重的平滑處理;權(quán)重的衰減處理;獲取新梯度更新網(wǎng)絡(luò)模型;本發(fā)明通過在訓(xùn)練的過程中根據(jù)輸入訓(xùn)練樣本數(shù)據(jù)得到的損失函數(shù)梯度的分布,調(diào)整樣本分配的權(quán)重,平衡不同程度難易樣本對模型的影響,縮短了模型訓(xùn)練時間同時提升了模型的精度。