神經(jīng)網(wǎng)絡(luò)壓縮方法、裝置、電子設(shè)備及存儲介質(zhì)

基本信息

申請?zhí)?/td> CN202110281889.5 申請日 -
公開（公告）號 CN113128664A 公開（公告）日 2021-07-16
申請公布號 CN113128664A 申請公布日 2021-07-16
分類號 G06N3/04（2006.01）I 分類 計(jì)算；推算；計(jì)數(shù);
發(fā)明人 林嘉鑫;賴蔚蔚;吳廣財(cái);鄭杰生;鄭穎龍;周昉昉;劉佳木;陳穎璇 申請（專利權(quán)）人 南方電網(wǎng)數(shù)字企業(yè)科技（廣東）有限公司
代理機(jī)構(gòu) 深圳市華優(yōu)知識產(chǎn)權(quán)代理事務(wù)所（普通合伙） 代理人 余薇
地址 510000廣東省廣州市越秀區(qū)東風(fēng)東路808號509號房
法律狀態(tài) -

摘要

摘要 本申請?zhí)峁┝艘环N神經(jīng)網(wǎng)絡(luò)壓縮方法、裝置、電子設(shè)備及存儲介質(zhì)，所述方法包括：獲取神經(jīng)網(wǎng)絡(luò)中各個(gè)網(wǎng)絡(luò)層的參數(shù)，其中，所述神經(jīng)網(wǎng)絡(luò)為已訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)；根據(jù)所述各個(gè)網(wǎng)絡(luò)層的參數(shù)，計(jì)算所述各個(gè)網(wǎng)絡(luò)層的自適應(yīng)剪枝閾值；根據(jù)所述自適應(yīng)剪枝閾值，將對應(yīng)網(wǎng)絡(luò)層的參數(shù)進(jìn)行剪枝，得到剪枝神經(jīng)網(wǎng)絡(luò)；對所述剪枝神經(jīng)網(wǎng)絡(luò)進(jìn)行重訓(xùn)練，得到目標(biāo)壓縮神經(jīng)網(wǎng)絡(luò)。通過各個(gè)網(wǎng)絡(luò)層的參數(shù)情況，對各個(gè)網(wǎng)絡(luò)層進(jìn)行參數(shù)剪枝，完成對神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)壓縮，使得神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)規(guī)模減小，降低神經(jīng)網(wǎng)絡(luò)的計(jì)算復(fù)雜度，利于神經(jīng)網(wǎng)絡(luò)部署在實(shí)時(shí)性要求較高的場景以及利于小型化的部署在嵌入式設(shè)備中。