神經(jīng)網(wǎng)絡模型的量化方法、裝置和系統(tǒng)、電子設備和存儲介質(zhì)

基本信息

申請?zhí)?/td> CN202111153963.1 申請日 -
公開（公告）號 CN113902114A 公開（公告）日 2022-01-07
申請公布號 CN113902114A 申請公布日 2022-01-07
分類號 G06N3/08（2006.01）I;G06N3/063（2006.01）I 分類 計算；推算；計數(shù);
發(fā)明人 袁之航;陳亮;趙亦彤;王輝;吳強 申請（專利權）人 南京后摩智能科技有限公司
代理機構 北京思源智匯知識產(chǎn)權代理有限公司 代理人 毛麗琴
地址 210046江蘇省南京市棲霞區(qū)經(jīng)濟技術開發(fā)區(qū)興智路6號興智科技園C棟第18層1807室
法律狀態(tài) -

摘要

摘要 本公開實施例公開了一種神經(jīng)網(wǎng)絡模型的量化方法、裝置和系統(tǒng)、電子設備和介質(zhì)，其中，方法包括：分別針對待量化神經(jīng)網(wǎng)絡模型中的任一待量化網(wǎng)絡層，獲取所述任一待量化網(wǎng)絡層的權重矩陣；對所述任一待量化網(wǎng)絡層的權重矩陣進行矩陣變換，得到所述任一待量化網(wǎng)絡層的待量化權重矩陣；對所述任一待量化網(wǎng)絡層的待量化權重矩陣進行量化，得到所述任一待量化網(wǎng)絡層的量化后權重矩陣；基于所述待量化神經(jīng)網(wǎng)絡模型中的任一待量化網(wǎng)絡層的量化后權重矩陣，得到量化后神經(jīng)網(wǎng)絡模型。本公開實施例可以降低權重矩陣中各通道的權重數(shù)據(jù)的分布差異，能夠減少量化誤差，有助于提升量化后神經(jīng)網(wǎng)絡的精度。