一種低bit混合精度量化提升模型精度的方法
基本信息
| 申請?zhí)?/td> | CN202011622501.5 | 申請日 | - |
| 公開（公告）號 | CN114692818A | 公開（公告）日 | 2022-07-01 |
| 申請公布號 | CN114692818A | 申請公布日 | 2022-07-01 |
| 分類號 | G06N3/04（2006.01）I;G06N3/08（2006.01）I | 分類 | 計算；推算；計數(shù); |
| 發(fā)明人 | 周飛飛 | 申請（專利權(quán)）人 | 合肥君正科技有限公司 |
| 代理機構(gòu) | 北京嘉東律師事務(wù)所 | 代理人 | - |
| 地址 | 230088安徽省合肥市高新區(qū)望江西路800號合肥高新股份有限公司C-3研發(fā)樓9層 | ||
| 法律狀態(tài) | - | ||
摘要
| 摘要 | 本發(fā)明提供一種低bit混合精度量化提升模型精度的方法，所述方法定性分析模型網(wǎng)絡(luò)結(jié)構(gòu)，通過對模型通道的計算及分析，確保推理不越界；以混合精度配置形式提高網(wǎng)絡(luò)模型精度。本申請通過配置混合精度方式，確保模型在低bit過程中達到和8bit與全精度一樣的精度?；旌暇攘炕?，定性分析網(wǎng)絡(luò)的feature及weight，使得模型低bit量化精度更高。 |
