神經(jīng)網(wǎng)絡(luò)可視化解釋方法及弱監(jiān)督定位物體方法

基本信息

申請?zhí)?/td> CN202010378828.6 申請日 -
公開（公告）號 CN111652350A 公開（公告）日 2020-09-11
申請公布號 CN111652350A 申請公布日 2020-09-11
分類號 G06N3/04(2006.01)I;G06N3/08(2006.01)I 分類 計算；推算；計數(shù);
發(fā)明人 董宇涵;劉晨光;張凱;高瞻 申請（專利權(quán)）人 北京好醫(yī)生云醫(yī)院管理技術(shù)有限公司
代理機構(gòu) 深圳新創(chuàng)友知識產(chǎn)權(quán)代理有限公司 代理人 清華大學深圳國際研究生院;北京好醫(yī)生云醫(yī)院管理技術(shù)有限公司
地址 518055廣東省深圳市南山區(qū)西麗街道深圳大學城清華校區(qū)A棟二樓
法律狀態(tài) -

摘要

摘要 一種神經(jīng)網(wǎng)絡(luò)可視化解釋方法及弱監(jiān)督定位物體方法，該神經(jīng)網(wǎng)絡(luò)可視化解釋方法包括如下步驟：S1、定義神經(jīng)網(wǎng)絡(luò)模型的注意力；S2、將所述注意力通過所述神經(jīng)網(wǎng)絡(luò)模型的全連層進行反向傳播；S3、將所述注意力通過所述神經(jīng)網(wǎng)絡(luò)模型的卷積層進行反向傳播；S4、將所述注意力通過所述神經(jīng)網(wǎng)絡(luò)模型的池化層進行反向傳播；S5、在所述神經(jīng)網(wǎng)絡(luò)模型的輸入層得到注意力圖，將所述注意力圖作為所述神經(jīng)網(wǎng)絡(luò)模型的可視化解釋。本方法可以對被視為黑箱的神經(jīng)網(wǎng)絡(luò)的決策過程給出可視化解釋，解釋網(wǎng)絡(luò)決策的依據(jù)，解釋網(wǎng)絡(luò)決策失誤的原因，同時還可以用于弱監(jiān)督定位物體方法，在弱監(jiān)督定位物體的實驗中取得了很有競爭力的結(jié)果。??