一種基于CUDA的GPU資源調(diào)度系統(tǒng)和方法

基本信息

申請(qǐng)?zhí)?/td> CN201910724239.6 申請(qǐng)日 -
公開(kāi)（公告）號(hào) CN110471766A 公開(kāi)（公告）日 2019-11-19
申請(qǐng)公布號(hào) CN110471766A 申請(qǐng)公布日 2019-11-19
分類(lèi)號(hào) G06F9/50（2006.01）I; G06T1/20（2006.01）I 分類(lèi) 計(jì)算；推算；計(jì)數(shù);
發(fā)明人 蘇斌 申請(qǐng)（專(zhuān)利權(quán)）人 北京華恒盛世科技有限公司
代理機(jī)構(gòu) 北京科億知識(shí)產(chǎn)權(quán)代理事務(wù)所（普通合伙） 代理人 北京華恒盛世科技有限公司
地址 100013 北京市東城區(qū)和平里東街雍和航星科技園37號(hào)樓211室
法律狀態(tài) -

摘要

摘要 本發(fā)明公開(kāi)了一種基于CUDA的GPU資源調(diào)度系統(tǒng)，管理節(jié)點(diǎn)和系統(tǒng)用戶，所述系統(tǒng)用戶通過(guò)提交作業(yè)模塊連接到管理節(jié)點(diǎn)，所述管理節(jié)點(diǎn)通過(guò)派發(fā)作業(yè)模塊連接有IBM Power計(jì)算節(jié)點(diǎn)和NVDIA DGX計(jì)算節(jié)點(diǎn)。本發(fā)明針對(duì)不同類(lèi)型的應(yīng)用采用不同的GPU特性，提高整個(gè)系統(tǒng)中GPU的利用率，加速應(yīng)用在GPU中的運(yùn)行效率。系統(tǒng)可以針對(duì)應(yīng)用需求，動(dòng)態(tài)切換GPU模式，根據(jù)應(yīng)用需要選擇最適合應(yīng)用的GPU類(lèi)型及其需要的GPU Factor，同一用戶多個(gè)應(yīng)用可通過(guò)GPU MPS以獨(dú)占的方式共享使用GPU，提高GPU利用率，支持IBM Power和NVIDIA DGX兩種GPU NVLINK拓?fù)?，將?yīng)用分配到帶有NVLINK互聯(lián)的GPU上，通過(guò)把當(dāng)前GPU的主要特性應(yīng)用于資源調(diào)度系統(tǒng)中，提高了這個(gè)系統(tǒng)的GPU資源利用率以及應(yīng)用的運(yùn)行效率。