神經(jīng)網(wǎng)絡(luò)的量化方法、裝置、計(jì)算機(jī)設(shè)備及存儲(chǔ)介質(zhì)

基本信息

申請(qǐng)?zhí)?/td> CN202111234520.5 申請(qǐng)日 -
公開(公告)號(hào) CN113962365A 公開(公告)日 2022-01-21
申請(qǐng)公布號(hào) CN113962365A 申請(qǐng)公布日 2022-01-21
分類號(hào) G06N3/04(2006.01)I;G06N3/08(2006.01)I 分類 計(jì)算;推算;計(jì)數(shù);
發(fā)明人 張卓翼 申請(qǐng)(專利權(quán))人 上海阡視科技有限公司
代理機(jī)構(gòu) 北京博思佳知識(shí)產(chǎn)權(quán)代理有限公司 代理人 王茹
地址 201103上海市徐匯區(qū)虹梅路1900號(hào)6樓6-78單元
法律狀態(tài) -

摘要

摘要 本公開提供一種神經(jīng)網(wǎng)絡(luò)的量化方法、裝置、計(jì)算機(jī)設(shè)備及存儲(chǔ)介質(zhì)。所述神經(jīng)網(wǎng)絡(luò)包括多個(gè)塊,每個(gè)塊包括所述神經(jīng)網(wǎng)絡(luò)中的至少一個(gè)網(wǎng)絡(luò)層;所述方法包括:獲取神經(jīng)網(wǎng)絡(luò)中一組塊的目標(biāo)量化配置集合;基于獲取的一組塊的目標(biāo)量化配置集合,對(duì)神經(jīng)網(wǎng)絡(luò)中另一組塊的候選量化配置集合進(jìn)行過濾,得到另一組塊的目標(biāo)量化配置集合,使得在另一組塊經(jīng)所述另一組塊的目標(biāo)量化配置集合中的量化配置進(jìn)行量化,且所述一組塊經(jīng)所述一組塊的目標(biāo)量化配置集合中的量化配置進(jìn)行量化的情況下,神經(jīng)網(wǎng)絡(luò)的目標(biāo)性能參數(shù)的邊界值均不超出目標(biāo)性能參數(shù)對(duì)應(yīng)的預(yù)設(shè)參數(shù)范圍;基于各個(gè)塊的目標(biāo)量化配置確定所述神經(jīng)網(wǎng)絡(luò)的目標(biāo)量化配置,并對(duì)所述神經(jīng)網(wǎng)絡(luò)進(jìn)行量化處理。