一種GPU資源調(diào)度系統(tǒng)及其調(diào)度方法

基本信息

申請?zhí)?/td> CN201910209567.2 申請日 -
公開（公告）號 CN109933433B 公開（公告）日 2021-06-25
申請公布號 CN109933433B 申請公布日 2021-06-25
分類號 G06F9/50;G06F9/48 分類 計算；推算；計數(shù);
發(fā)明人 鄭歆慰;褚海濤 申請（專利權(quán)）人 合肥中科類腦智能技術(shù)有限公司
代理機構(gòu) 合肥昊晟德專利代理事務(wù)所（普通合伙） 代理人 王林
地址 230000 安徽省合肥市高新區(qū)創(chuàng)新大道2688號中新大廈11層1102-B236
法律狀態(tài) -

摘要

摘要 本發(fā)明公開了一種GPU資源調(diào)度系統(tǒng)及其調(diào)度方法，包括一GPU總集合，所述GPU總集合包括多個GPU節(jié)點；一GPU調(diào)用單元，所述GPU調(diào)用單元通信地連接所述GPU總集合，并調(diào)用所述GPU節(jié)點以形成一GPU子集合；以及一資源管理單元，所述資源管理單元通信地連接所述GPU總集合和所述GPU調(diào)用單元，并調(diào)用所述GPU節(jié)點以形成一GPU調(diào)度子集合，其中所述GPU調(diào)用單元監(jiān)控所述GPU節(jié)點的調(diào)用信息，所述資源度量單元測量未調(diào)用狀態(tài)的所述GPU并根據(jù)用戶的資源請求以形成所述GPU調(diào)度子集合。能夠通過調(diào)用一個新的GPU調(diào)度子集合來實現(xiàn)計算效率的提升，提高了整體系統(tǒng)的利用率，減少了多GPU資源請求的通信任務(wù)的負擔。