用于深度神經(jīng)網(wǎng)絡(luò)的多底數(shù)對(duì)數(shù)量化方法及裝置
基本信息
申請(qǐng)?zhí)?/td> | CN201811300010.1 | 申請(qǐng)日 | - |
公開(kāi)(公告)號(hào) | CN109376854A | 公開(kāi)(公告)日 | 2019-02-22 |
申請(qǐng)公布號(hào) | CN109376854A | 申請(qǐng)公布日 | 2019-02-22 |
分類號(hào) | G06N3/063(2006.01)I | 分類 | 計(jì)算;推算;計(jì)數(shù); |
發(fā)明人 | 鄒卓; 環(huán)宇翔; 徐佳唯; 鄭立榮 | 申請(qǐng)(專利權(quán))人 | 矽魅信息科技(上海)有限公司 |
代理機(jī)構(gòu) | - | 代理人 | - |
地址 | 200000 上海市嘉定區(qū)環(huán)城路2222號(hào)3幢1010室 | ||
法律狀態(tài) | - |
摘要
摘要 | 本發(fā)明公開(kāi)了一種用于深度神經(jīng)網(wǎng)絡(luò)的多底數(shù)對(duì)數(shù)量化方法及裝置,其中,用于深度神經(jīng)網(wǎng)絡(luò)的多底數(shù)對(duì)數(shù)量化方法包括:通過(guò)N?bit量化,將深度神經(jīng)網(wǎng)絡(luò)中所有權(quán)值或輸入用2N個(gè)定點(diǎn)數(shù)表示,其中2N?1個(gè)定點(diǎn)以2為底,2N?1個(gè)定點(diǎn)以為底;確定所述深度神經(jīng)網(wǎng)絡(luò)中所有權(quán)值以2為底的數(shù)值范圍SR_1和以為底的數(shù)值范圍SR_2;將上述以2為底的數(shù)值范圍SR_1和以為底的數(shù)值范圍SR_2進(jìn)行量化;將上述量化后的數(shù)值的指數(shù)在各自分段的Log域上均勻分布。以實(shí)現(xiàn)提高神經(jīng)網(wǎng)絡(luò)模型的準(zhǔn)確率的優(yōu)點(diǎn)。 |
