模型分配方法、裝置、電子設(shè)備及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)

基本信息

申請?zhí)?/td> CN202110997538.4 申請日 -
公開(公告)號 CN113703975A 公開(公告)日 2021-11-26
申請公布號 CN113703975A 申請公布日 2021-11-26
分類號 G06F9/50(2006.01)I;G06N3/063(2006.01)I 分類 計(jì)算;推算;計(jì)數(shù);
發(fā)明人 張發(fā)恩;林國森 申請(專利權(quán))人 創(chuàng)新奇智(重慶)科技有限公司
代理機(jī)構(gòu) 北京超凡宏宇專利代理事務(wù)所(特殊普通合伙) 代理人 衡滔
地址 400000重慶市九龍坡區(qū)火炬大道69號重慶啟迪科技園9號樓201室
法律狀態(tài) -

摘要

摘要 本申請?zhí)峁┮环N模型分配方法、裝置、電子設(shè)備及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì),方法包括:獲取各待分配模型;獲取針對所述待分配模型的所有分配組合方案中,各NPU中的第一資源使用指標(biāo)值;各所述NPU中的第一資源使用指標(biāo)值表征各所述NPU中的資源使用情況;根據(jù)各所述分配組合方案下的各NPU中的第一資源使用指標(biāo)值,確定出第一資源使用指標(biāo)值最均衡的目標(biāo)分配組合方案;按照所述目標(biāo)分配組合方案將各所述待分配模型分別加載至對應(yīng)的NPU中。這樣,加載待分配模型后的智能盒子中,各NPU的性能相對均衡,從而可以提高智能盒子的性能利用率。