多神經(jīng)網(wǎng)絡(luò)模型載入方法、裝置、電子設(shè)備及存儲(chǔ)介質(zhì)

基本信息

申請(qǐng)?zhí)?/td> CN202110036325.5 申請(qǐng)日 -
公開(kāi)(公告)號(hào) CN114764609A 公開(kāi)(公告)日 2022-07-19
申請(qǐng)公布號(hào) CN114764609A 申請(qǐng)公布日 2022-07-19
分類(lèi)號(hào) G06N3/04(2006.01)I;G06N3/063(2006.01)I;G06N3/08(2006.01)I;H03M7/30(2006.01)I 分類(lèi) 計(jì)算;推算;計(jì)數(shù);
發(fā)明人 孫國(guó)欽;郭錦斌 申請(qǐng)(專(zhuān)利權(quán))人 富泰華工業(yè)(深圳)有限公司
代理機(jī)構(gòu) 深圳市賽恩倍吉知識(shí)產(chǎn)權(quán)代理有限公司 代理人 -
地址 518109廣東省深圳市龍華新區(qū)觀瀾街道大三社區(qū)富士康觀瀾科技園B區(qū)廠房4棟、6棟、7棟、13棟(Ⅰ段)
法律狀態(tài) -

摘要

摘要 本發(fā)明涉及一種多神經(jīng)網(wǎng)絡(luò)模型載入方法、裝置、電子設(shè)備及存儲(chǔ)介質(zhì)。所述方法包括:編譯至少兩個(gè)神經(jīng)網(wǎng)絡(luò)模型,計(jì)算所述至少兩個(gè)神經(jīng)網(wǎng)絡(luò)模型之間的差異,并通過(guò)預(yù)設(shè)的壓縮方法生成模型文件;在神經(jīng)網(wǎng)絡(luò)加速器中輸入所述模型文件,解碼并載入經(jīng)過(guò)編譯的神經(jīng)網(wǎng)絡(luò)模型;切換神經(jīng)網(wǎng)絡(luò)模型時(shí),根據(jù)所述差異修改神經(jīng)網(wǎng)絡(luò)基礎(chǔ)模型的參數(shù)。本發(fā)明中,通過(guò)記錄多個(gè)模型之間的差異并對(duì)模型與記錄差異的文件進(jìn)行編碼,從而可以壓縮神經(jīng)網(wǎng)絡(luò)模型的體積,以及實(shí)現(xiàn)在神經(jīng)網(wǎng)絡(luò)加速器中載入多個(gè)神經(jīng)網(wǎng)絡(luò)模型。