一種通道剪枝和快捷連接層剪枝方法及系統(tǒng)
基本信息
| 申請(qǐng)?zhí)?/td> | CN202110592328.7 | 申請(qǐng)日 | - |
| 公開(kāi)（公告）號(hào) | CN113222142A | 公開(kāi)（公告）日 | 2021-08-06 |
| 申請(qǐng)公布號(hào) | CN113222142A | 申請(qǐng)公布日 | 2021-08-06 |
| 分類號(hào) | G06N3/08;G06N3/04 | 分類 | 計(jì)算；推算；計(jì)數(shù); |
| 發(fā)明人 | 王俊杰;杜金航;許卓然;彭伊莎;薛貴榮 | 申請(qǐng)（專利權(quán)）人 | 上海天壤智能科技有限公司 |
| 代理機(jī)構(gòu) | 上海段和段律師事務(wù)所 | 代理人 | 李佳俊;郭國(guó)中 |
| 地址 | 201100 上海市閔行區(qū)劍川路951號(hào)5幢1層（集中登記地） | ||
| 法律狀態(tài) | - | ||
摘要
| 摘要 | 本發(fā)明提供一種通道剪枝和快捷連接層剪枝方法及系統(tǒng)，涉及計(jì)算機(jī)視覺(jué)技術(shù)領(lǐng)域，該方法包括：步驟S1：對(duì)單階段目標(biāo)檢測(cè)模型的BN層的尺度因子進(jìn)行自適應(yīng)稀疏化訓(xùn)練；步驟S2：設(shè)計(jì)通道剪枝和層剪枝的閾值和快捷剪枝層的數(shù)量；步驟S3：對(duì)模型每一層小于通道閾值的通道進(jìn)行剪枝；步驟S4：綜合每一個(gè)快捷連接層中所有BN的尺度因子的平均值和標(biāo)準(zhǔn)差，對(duì)快捷連接層重要性進(jìn)行排序，剪去設(shè)置的數(shù)量；步驟S5：降低模型精度的損失，將剪去的層的BN中的偏差合并到下一個(gè)BN層的runing_mean中；步驟S6：使用模型蒸餾，并進(jìn)行精度恢復(fù)訓(xùn)練；步驟S7：重復(fù)步驟S1～步驟S6，反復(fù)對(duì)模型進(jìn)行剪枝。本發(fā)明能夠使得模型性能不下降，且參數(shù)量大大降低，顯著提升推理效率效果。 |
