一種深度神經(jīng)網(wǎng)絡(luò)的通用小型化方法

基本信息

申請?zhí)?/td> CN201711097406.6 申請日 -
公開（公告）號 CN107748913A 公開（公告）日 2018-03-02
申請公布號 CN107748913A 申請公布日 2018-03-02
分類號 G06N3/04;G06N3/08 分類 計算；推算；計數(shù);
發(fā)明人 董健;張明;黃龍;王禹 申請（專利權(quán)）人 睿魔創(chuàng)新科技（深圳）有限公司
代理機構(gòu) 廣州粵高專利商標(biāo)代理有限公司 代理人 羅曉林;楊桂洋
地址 523000 廣東省東莞市松山湖高新技術(shù)產(chǎn)業(yè)開發(fā)區(qū)新竹路4號新竹苑17幢1單元4樓A區(qū)408室
法律狀態(tài) -

摘要

摘要 本發(fā)明公開了一種深度神經(jīng)網(wǎng)絡(luò)的通用小型化方法，包括以下步驟：對初始的深度神經(jīng)網(wǎng)絡(luò)進行特征重構(gòu)，形成一個新的小型網(wǎng)絡(luò)；對深度神經(jīng)網(wǎng)絡(luò)的特征通道數(shù)和組卷積數(shù)進行壓縮處理，減少輸出的特征通道數(shù)和組卷積的個數(shù)，特征重構(gòu)時，采用特征分層方式進行重構(gòu)，設(shè)定一個預(yù)定壓縮比，先對深度神經(jīng)網(wǎng)絡(luò)的底層特征進行重構(gòu)，然后再以同樣的預(yù)定壓縮比，對深度神經(jīng)網(wǎng)絡(luò)的高層特征進行重構(gòu)。本發(fā)明有效降低存儲空間，簡化網(wǎng)絡(luò)的同時仍保有良好的穩(wěn)定性和有效性，廣泛應(yīng)用于部署在嵌入式和移動計算平臺上的深度神經(jīng)網(wǎng)絡(luò)模型。