一種AI模型可靠性判斷方法、裝置、設(shè)備及存儲(chǔ)介質(zhì)

基本信息

申請(qǐng)?zhí)?/td> CN202110779991.8 申請(qǐng)日 -
公開（公告）號(hào) CN113421643A 公開（公告）日 2021-09-21
申請(qǐng)公布號(hào) CN113421643A 申請(qǐng)公布日 2021-09-21
分類號(hào) G16H50/20（2018.01）I;G06N20/00（2019.01）I 分類 物理
發(fā)明人 張博宇;毛冰城;金朝匯;諶明 申請(qǐng)（專利權(quán)）人 浙江核新同花順網(wǎng)絡(luò)信息股份有限公司
代理機(jī)構(gòu) 北京集佳知識(shí)產(chǎn)權(quán)代理有限公司 代理人 薛嬌
地址 310058浙江省杭州市西湖區(qū)余杭塘路866號(hào)
法律狀態(tài) -

摘要

摘要 本發(fā)明公開了一種AI模型可靠性判斷方法、裝置、設(shè)備及存儲(chǔ)介質(zhì)，該方法包括：獲取全部病例集合，依次確定訓(xùn)練AI模型所用各病例為當(dāng)前病例，通過(guò)多次隨機(jī)改變當(dāng)前病例中的特征數(shù)據(jù)得到多個(gè)采樣樣本，利用AI模型獲取每個(gè)采樣樣本的診斷結(jié)果；利用每個(gè)采樣樣本及相應(yīng)診斷結(jié)果對(duì)機(jī)器學(xué)習(xí)模型進(jìn)行訓(xùn)練，在訓(xùn)練完成后基于機(jī)器學(xué)習(xí)模型的可解釋性，確定表示AI模型獲取當(dāng)前病例的診斷結(jié)果的依據(jù)為依據(jù)信息；如果全部病例集合中依據(jù)信息合理的病例數(shù)量達(dá)到數(shù)量閾值，則確定AI模型可靠?？梢?，本申請(qǐng)能實(shí)現(xiàn)對(duì)AI模型的準(zhǔn)確評(píng)價(jià)，進(jìn)而有效降低使用AI模型進(jìn)行醫(yī)學(xué)輔助診斷的風(fēng)險(xiǎn)。