模型分配方法、裝置、電子設(shè)備及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)
基本信息
申請?zhí)?/td> | CN202110997538.4 | 申請日 | - |
公開(公告)號 | CN113703975A | 公開(公告)日 | 2021-11-26 |
申請公布號 | CN113703975A | 申請公布日 | 2021-11-26 |
分類號 | G06F9/50(2006.01)I;G06N3/063(2006.01)I | 分類 | 計(jì)算;推算;計(jì)數(shù); |
發(fā)明人 | 張發(fā)恩;林國森 | 申請(專利權(quán))人 | 創(chuàng)新奇智(重慶)科技有限公司 |
代理機(jī)構(gòu) | 北京超凡宏宇專利代理事務(wù)所(特殊普通合伙) | 代理人 | 衡滔 |
地址 | 400000重慶市九龍坡區(qū)火炬大道69號重慶啟迪科技園9號樓201室 | ||
法律狀態(tài) | - |
摘要
摘要 | 本申請?zhí)峁┮环N模型分配方法、裝置、電子設(shè)備及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì),方法包括:獲取各待分配模型;獲取針對所述待分配模型的所有分配組合方案中,各NPU中的第一資源使用指標(biāo)值;各所述NPU中的第一資源使用指標(biāo)值表征各所述NPU中的資源使用情況;根據(jù)各所述分配組合方案下的各NPU中的第一資源使用指標(biāo)值,確定出第一資源使用指標(biāo)值最均衡的目標(biāo)分配組合方案;按照所述目標(biāo)分配組合方案將各所述待分配模型分別加載至對應(yīng)的NPU中。這樣,加載待分配模型后的智能盒子中,各NPU的性能相對均衡,從而可以提高智能盒子的性能利用率。 |
