一種基于批處理知識集成（BAKE）的數(shù)據(jù)自蒸餾方法

基本信息

申請?zhí)?/td> CN202111163512.6 申請日 -
公開（公告）號 CN113869434A 公開（公告）日 2021-12-31
申請公布號 CN113869434A 申請公布日 2021-12-31
分類號 G06K9/62（2006.01）I;G06N3/04（2006.01）I;G06N3/08（2006.01）I;G06N20/00（2019.01）I 分類 計算；推算；計數(shù);
發(fā)明人 王華龍;李澤輝;吳均城;楊海東 申請（專利權）人 佛山市廣工大數(shù)控裝備技術發(fā)展有限公司
代理機構 廣州科沃園專利代理有限公司 代理人 王維霞
地址 528200廣東省佛山市南海高新區(qū)佛高科技智庫中心A座4樓
法律狀態(tài) -

摘要

摘要 本發(fā)明公開了目標檢測技術領域，具體的說是一種基于批處理知識集成（BAKE）的數(shù)據(jù)自蒸餾方法，該數(shù)據(jù)自蒸餾方法包括以下步驟：S1：給定樣本的小批量和訓練中的網絡，對相似性樣本進行儲存；S2：避免自我認知強化，對親和矩陣A進行規(guī)范化；S3：對一個批次內的樣本進行預測，然后得到產生軟學習目標；S4：實現(xiàn)知識的完全融合；與現(xiàn)有的知識集成方法相比，解決了傳統(tǒng)知識集成需通過額外的網絡或分支進行處理，節(jié)省了所需要的計算量和內存開銷，將BAKE運用于網絡架構中，能夠提高它們的分類性能，避免了在處理過程中導致錯誤的監(jiān)督。