一種稀疏深度神經(jīng)網(wǎng)絡的構造方法

基本信息

申請?zhí)?/td> CN202110036712.9 申請日 -
公開（公告）號 CN113191481A 公開（公告）日 2021-07-30
申請公布號 CN113191481A 申請公布日 2021-07-30
分類號 G06N3/04（2006.01）I;G06N3/08（2006.01）I 分類 計算；推算；計數(shù);
發(fā)明人 宋艷枝;廖可;王杰;文銘 申請（專利權）人 合肥黎曼信息科技有限公司
代理機構 安徽省蚌埠博源專利商標事務所（普通合伙） 代理人 朱恒蘭
地址 230001安徽省合肥市高新區(qū)創(chuàng)新大道2800號創(chuàng)新產(chǎn)業(yè)園二期J1棟A座1027室
法律狀態(tài) -

摘要

摘要 本發(fā)明涉及深度學習神經(jīng)網(wǎng)絡技術領域，具體涉及一種稀疏深度神經(jīng)網(wǎng)絡的構造方法，包括以下步驟：S1：通過L1,∞?權重正則化開發(fā)了稀疏深度神經(jīng)網(wǎng)絡空間的系統(tǒng)框架；S2：建立步驟S1中的稀疏深度神經(jīng)網(wǎng)絡空間的Rademacher復雜度；S3：基于步驟S2中的稀疏深度神經(jīng)網(wǎng)絡空間的Rademacher復雜度導出回歸問題和分類問題的泛化誤差界限；S4：采用易于實現(xiàn)的梯度投影下降算法構造稀疏深度神經(jīng)網(wǎng)絡；這種稀疏深度神經(jīng)網(wǎng)絡的構造方法，建立了基于L1,∞?權重正則化的包含偏置神經(jīng)元的神經(jīng)網(wǎng)絡的回歸和分類問題的泛化誤差邊界，采用易于實現(xiàn)的梯度投影下降算法，來實際構造出一種稀疏神經(jīng)網(wǎng)絡。