一種基于批處理知識(shí)集成(BAKE)的數(shù)據(jù)自蒸餾方法
基本信息
申請(qǐng)?zhí)?/td> | CN202111163512.6 | 申請(qǐng)日 | - |
公開(kāi)(公告)號(hào) | CN113869434A | 公開(kāi)(公告)日 | 2021-12-31 |
申請(qǐng)公布號(hào) | CN113869434A | 申請(qǐng)公布日 | 2021-12-31 |
分類(lèi)號(hào) | G06K9/62(2006.01)I;G06N3/04(2006.01)I;G06N3/08(2006.01)I;G06N20/00(2019.01)I | 分類(lèi) | 計(jì)算;推算;計(jì)數(shù); |
發(fā)明人 | 王華龍;李澤輝;吳均城;楊海東 | 申請(qǐng)(專(zhuān)利權(quán))人 | 佛山市廣工大數(shù)控裝備技術(shù)發(fā)展有限公司 |
代理機(jī)構(gòu) | 廣州科沃園專(zhuān)利代理有限公司 | 代理人 | 王維霞 |
地址 | 528200廣東省佛山市南海高新區(qū)佛高科技智庫(kù)中心A座4樓 | ||
法律狀態(tài) | - |
摘要
摘要 | 本發(fā)明公開(kāi)了目標(biāo)檢測(cè)技術(shù)領(lǐng)域,具體的說(shuō)是一種基于批處理知識(shí)集成(BAKE)的數(shù)據(jù)自蒸餾方法,該數(shù)據(jù)自蒸餾方法包括以下步驟:S1:給定樣本的小批量和訓(xùn)練中的網(wǎng)絡(luò),對(duì)相似性樣本進(jìn)行儲(chǔ)存;S2:避免自我認(rèn)知強(qiáng)化,對(duì)親和矩陣A進(jìn)行規(guī)范化;S3:對(duì)一個(gè)批次內(nèi)的樣本進(jìn)行預(yù)測(cè),然后得到產(chǎn)生軟學(xué)習(xí)目標(biāo);S4:實(shí)現(xiàn)知識(shí)的完全融合;與現(xiàn)有的知識(shí)集成方法相比,解決了傳統(tǒng)知識(shí)集成需通過(guò)額外的網(wǎng)絡(luò)或分支進(jìn)行處理,節(jié)省了所需要的計(jì)算量和內(nèi)存開(kāi)銷(xiāo),將BAKE運(yùn)用于網(wǎng)絡(luò)架構(gòu)中,能夠提高它們的分類(lèi)性能,避免了在處理過(guò)程中導(dǎo)致錯(cuò)誤的監(jiān)督。 |
