一種應(yīng)用于圖像處理的漸進(jìn)式權(quán)值量化方法、裝置、介質(zhì)及設(shè)備

基本信息

申請?zhí)?/td> 2020111123513 申請日 -
公開（公告）號 CN112287987A 公開（公告）日 2021-01-29
申請公布號 CN112287987A 申請公布日 2021-01-29
分類號 G06K9/62(2006.01)I;G06N3/08(2006.01)I 分類 計算；推算；計數(shù);
發(fā)明人 姚志強(qiáng);周曦;李連強(qiáng);梁俊文 申請（專利權(quán)）人 廣州云從凱風(fēng)科技有限公司
代理機(jī)構(gòu) 上海光華專利事務(wù)所（普通合伙） 代理人 代玲
地址 511458廣東省廣州市南沙區(qū)金隆路26號1009房(僅限辦公用途)
法律狀態(tài) -

摘要

摘要 本發(fā)明公開了一種應(yīng)用于圖像處理的漸進(jìn)式權(quán)值量化方法，包括：為深度神經(jīng)網(wǎng)絡(luò)模型中的每個待量化的權(quán)值參數(shù)確定對應(yīng)的一個軟掩碼，軟掩碼用于表示所述權(quán)值參數(shù)的重要程度；迭代執(zhí)行以下步驟，直至權(quán)值參數(shù)完成量化：基于權(quán)值參數(shù)的重要程度對待量化的權(quán)值參數(shù)進(jìn)行分組，得到若干待量化權(quán)值組；對若干待量化權(quán)值組中重要程度最高的一組進(jìn)行量化；基于量化后的權(quán)值參數(shù)以及待量化的權(quán)值參數(shù)重新訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)模型，得到更新后的待量化的權(quán)值參數(shù)。本發(fā)明為權(quán)值參數(shù)設(shè)置一個軟掩碼，并基于軟掩碼對權(quán)值參數(shù)進(jìn)行分組，然后采用漸進(jìn)式的分組量化策略，先量化相對重要的權(quán)值參數(shù)，然后利用量化后的權(quán)值參數(shù)與待量化的權(quán)值參數(shù)重新訓(xùn)練所述深度神經(jīng)網(wǎng)絡(luò)，以彌補(bǔ)量化誤差，避免了一次性量化所有網(wǎng)絡(luò)參數(shù)帶來的不可彌補(bǔ)的性能損失。??