一種基于知識蒸餾的高效圖像分類方法及系統(tǒng)

基本信息

申請?zhí)?/td> CN202111474322.6 申請日 -
公開（公告）號 CN114202021A 公開（公告）日 2022-03-18
申請公布號 CN114202021A 申請公布日 2022-03-18
分類號 G06K9/62（2022.01）I;G06V10/20（2022.01）I;G06N3/04（2006.01）I;G06N3/08（2006.01）I;G06V10/774（2022.01）I;G06V10/764（2022.01）I 分類 計算；推算；計數(shù);
發(fā)明人 李翔 申請（專利權(quán)）人 北京影譜科技股份有限公司
代理機(jī)構(gòu) 北京知呱呱知識產(chǎn)權(quán)代理有限公司 代理人 鄭興旺
地址 100125北京市朝陽區(qū)朝陽公園南路3號樓6層601內(nèi)702室
法律狀態(tài) -

摘要

摘要 本發(fā)明實施例公開了一種基于知識蒸餾的高效圖像分類方法及系統(tǒng)，利用大模型學(xué)習(xí)到的知識去指導(dǎo)小模型進(jìn)行訓(xùn)練，使得小模型在保證參數(shù)量和計算量可以大幅降低的情況下，獲得與大模型相當(dāng)?shù)男阅?，從而實現(xiàn)模型的壓縮與加速，大大提高圖像分類的效率，改進(jìn)后的圖像分類器可以在保證原始圖像分類器性能的同時，大大減少網(wǎng)絡(luò)模型在進(jìn)行圖像分類時產(chǎn)生的不必要的計算量和存儲消耗，使得小型的圖像分類器可以更加高效的對圖像進(jìn)行分類，同時產(chǎn)生較小的內(nèi)存消耗，從而有效節(jié)省計算和存儲資源，使CNN可以更好地應(yīng)用到圖像分類算法中。