一種深度神經(jīng)網(wǎng)絡(luò)的通用小型化方法

基本信息

申請(qǐng)?zhí)?/td> CN201711097406.6 申請(qǐng)日 -
公開（公告）號(hào) CN107748913A 公開（公告）日 2018-03-02
申請(qǐng)公布號(hào) CN107748913A 申請(qǐng)公布日 2018-03-02
分類號(hào) G06N3/04;G06N3/08 分類 計(jì)算；推算；計(jì)數(shù);
發(fā)明人 董健;張明;黃龍;王禹 申請(qǐng)（專利權(quán)）人 杭州靈凡科技有限公司
代理機(jī)構(gòu) 廣州粵高專利商標(biāo)代理有限公司 代理人 羅曉林;楊桂洋
地址 523000 廣東省東莞市松山湖高新技術(shù)產(chǎn)業(yè)開發(fā)區(qū)新竹路4號(hào)新竹苑17幢1單元4樓A區(qū)408室
法律狀態(tài) -

摘要

摘要 本發(fā)明公開了一種深度神經(jīng)網(wǎng)絡(luò)的通用小型化方法，包括以下步驟：對(duì)初始的深度神經(jīng)網(wǎng)絡(luò)進(jìn)行特征重構(gòu)，形成一個(gè)新的小型網(wǎng)絡(luò)；對(duì)深度神經(jīng)網(wǎng)絡(luò)的特征通道數(shù)和組卷積數(shù)進(jìn)行壓縮處理，減少輸出的特征通道數(shù)和組卷積的個(gè)數(shù)，特征重構(gòu)時(shí)，采用特征分層方式進(jìn)行重構(gòu)，設(shè)定一個(gè)預(yù)定壓縮比，先對(duì)深度神經(jīng)網(wǎng)絡(luò)的底層特征進(jìn)行重構(gòu)，然后再以同樣的預(yù)定壓縮比，對(duì)深度神經(jīng)網(wǎng)絡(luò)的高層特征進(jìn)行重構(gòu)。本發(fā)明有效降低存儲(chǔ)空間，簡(jiǎn)化網(wǎng)絡(luò)的同時(shí)仍保有良好的穩(wěn)定性和有效性，廣泛應(yīng)用于部署在嵌入式和移動(dòng)計(jì)算平臺(tái)上的深度神經(jīng)網(wǎng)絡(luò)模型。