神經(jīng)網(wǎng)絡(luò)調(diào)度方法、裝置、計(jì)算機(jī)設(shè)備及可讀存儲(chǔ)介質(zhì)

基本信息

申請(qǐng)?zhí)?/td> CN201980066984.4 申請(qǐng)日 -
公開（公告）號(hào) CN113196232A 公開（公告）日 2021-07-30
申請(qǐng)公布號(hào) CN113196232A 申請(qǐng)公布日 2021-07-30
分類號(hào) G06F9/00（2006.01）I 分類 計(jì)算；推算；計(jì)數(shù);
發(fā)明人 黃炯凱;蔡權(quán)雄;牛昕宇 申請(qǐng)（專利權(quán)）人 深圳鯤云信息科技有限公司
代理機(jī)構(gòu) 深圳市華優(yōu)知識(shí)產(chǎn)權(quán)代理事務(wù)所（普通合伙） 代理人 余薇
地址 518000廣東省深圳市福田區(qū)福保街道保稅區(qū)市花路南側(cè)長富金茂大廈1號(hào)樓1408
法律狀態(tài) -

摘要

摘要 一種神經(jīng)網(wǎng)絡(luò)調(diào)度方法、裝置、計(jì)算機(jī)設(shè)備及存儲(chǔ)介質(zhì)，該方法包括：將至少一個(gè)預(yù)訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)模型加載到內(nèi)存中的模型存儲(chǔ)區(qū)，并獲取所述神經(jīng)網(wǎng)絡(luò)模型的基地址，所述內(nèi)存還包括公共數(shù)據(jù)存儲(chǔ)區(qū)（101）；根據(jù)任務(wù)類型獲取對(duì)應(yīng)的所述神經(jīng)網(wǎng)絡(luò)模型的基地址，并讀取所述公共數(shù)據(jù)存儲(chǔ)區(qū)內(nèi)的數(shù)據(jù)（102）；基于所述基地址調(diào)用對(duì)應(yīng)的神經(jīng)網(wǎng)絡(luò)模型對(duì)所述數(shù)據(jù)進(jìn)行計(jì)算，得到計(jì)算結(jié)果并輸出（103）。該方法將神經(jīng)網(wǎng)絡(luò)預(yù)先加載到內(nèi)存中并獲得相應(yīng)的基地址，調(diào)用上述基地址對(duì)應(yīng)的多個(gè)神經(jīng)網(wǎng)絡(luò)對(duì)數(shù)據(jù)進(jìn)行計(jì)算，并將中間結(jié)果放入一個(gè)公共數(shù)據(jù)存儲(chǔ)區(qū)，可以減少額外的神經(jīng)網(wǎng)絡(luò)計(jì)算設(shè)備的成本，提高硬件資源的利用率。