一種基于知識(shí)蒸餾的高效圖像分類方法及系統(tǒng)

基本信息

申請(qǐng)?zhí)?/td> CN202111474322.6 申請(qǐng)日 -
公開（公告）號(hào) CN114202021A 公開（公告）日 2022-03-18
申請(qǐng)公布號(hào) CN114202021A 申請(qǐng)公布日 2022-03-18
分類號(hào) G06K9/62（2022.01）I;G06V10/20（2022.01）I;G06N3/04（2006.01）I;G06N3/08（2006.01）I;G06V10/774（2022.01）I;G06V10/764（2022.01）I 分類 計(jì)算；推算；計(jì)數(shù);
發(fā)明人 李翔 申請(qǐng)（專利權(quán)）人 北京影譜科技股份有限公司
代理機(jī)構(gòu) 北京知呱呱知識(shí)產(chǎn)權(quán)代理有限公司 代理人 鄭興旺
地址 100125北京市朝陽區(qū)朝陽公園南路3號(hào)樓6層601內(nèi)702室
法律狀態(tài) -

摘要

摘要 本發(fā)明實(shí)施例公開了一種基于知識(shí)蒸餾的高效圖像分類方法及系統(tǒng)，利用大模型學(xué)習(xí)到的知識(shí)去指導(dǎo)小模型進(jìn)行訓(xùn)練，使得小模型在保證參數(shù)量和計(jì)算量可以大幅降低的情況下，獲得與大模型相當(dāng)?shù)男阅埽瑥亩鴮?shí)現(xiàn)模型的壓縮與加速，大大提高圖像分類的效率，改進(jìn)后的圖像分類器可以在保證原始圖像分類器性能的同時(shí)，大大減少網(wǎng)絡(luò)模型在進(jìn)行圖像分類時(shí)產(chǎn)生的不必要的計(jì)算量和存儲(chǔ)消耗，使得小型的圖像分類器可以更加高效的對(duì)圖像進(jìn)行分類，同時(shí)產(chǎn)生較小的內(nèi)存消耗，從而有效節(jié)省計(jì)算和存儲(chǔ)資源，使CNN可以更好地應(yīng)用到圖像分類算法中。