模型的后門檢測方法、裝置、介質(zhì)和計(jì)算設(shè)備

基本信息

申請(qǐng)?zhí)?/td> CN202011418502.8 申請(qǐng)日 -
公開（公告）號(hào) CN112257816B 公開（公告）日 2021-09-21
申請(qǐng)公布號(hào) CN112257816B 申請(qǐng)公布日 2021-09-21
分類號(hào) G06K9/62（2006.01）I 分類 計(jì)算；推算；計(jì)數(shù);
發(fā)明人 張旭東;蕭子豪;董胤蓬;朱建威;唐家渝;田天 申請(qǐng)（專利權(quán)）人 北京瑞萊智慧科技有限公司
代理機(jī)構(gòu) 北京箴思知識(shí)產(chǎn)權(quán)代理有限公司 代理人 李春暉
地址 100084北京市海淀區(qū)清華科技園科技大廈B座18層
法律狀態(tài) -

摘要

摘要 本發(fā)明提供了一種模型的后門檢測方法、裝置、介質(zhì)和計(jì)算設(shè)備。該方法包括：提供用于檢測后門的材料，其中，所述材料至少包括用于檢測模型是否存在后門的檢測樣本集；基于所述檢測樣本集對(duì)所述模型的每一類別的輸出進(jìn)行搜索，以得到針對(duì)所述模型的每一類別的輸出的多個(gè)還原結(jié)果，其中，所述還原結(jié)果用于表征基于一個(gè)或多個(gè)同類別檢測樣本，使所述模型的輸出結(jié)果出錯(cuò)的修改量；根據(jù)所述模型的不同類別的輸出的還原結(jié)果確定所述模型是否存在后門。根據(jù)本發(fā)明的技術(shù)方案，可以采用任何樣本檢測模型是否存在后門，而不必須是訓(xùn)練模型時(shí)使用的樣本，給用戶帶來了更加方便的體驗(yàn)。且僅需提供輸入輸出反饋，無需模型具體結(jié)構(gòu)和參數(shù)，保護(hù)了用戶知識(shí)產(chǎn)權(quán)。