一種規(guī)約運(yùn)算的拓?fù)溥x擇方法、裝置、設(shè)備及介質(zhì)

基本信息

申請(qǐng)?zhí)?/td> CN202210347726.7 申請(qǐng)日 -
公開(kāi)（公告）號(hào) CN114707651A 公開(kāi)（公告）日 2022-07-05
申請(qǐng)公布號(hào) CN114707651A 申請(qǐng)公布日 2022-07-05
分類號(hào) G06N3/063（2006.01）I;G06N20/00（2019.01）I 分類 計(jì)算；推算；計(jì)數(shù);
發(fā)明人 劉邦嵐;丁圣閣 申請(qǐng)（專利權(quán)）人 上海燧原科技有限公司
代理機(jī)構(gòu) 北京品源專利代理有限公司 代理人 -
地址 201306上海市浦東新區(qū)中國(guó)（上海）自由貿(mào)易試驗(yàn)區(qū)臨港新片區(qū)業(yè)盛路188號(hào)A-522室
法律狀態(tài) -

摘要

摘要 本發(fā)明公開(kāi)了一種規(guī)約運(yùn)算的拓?fù)溥x擇方法、裝置、設(shè)備及介質(zhì)，包括：獲取分布式訓(xùn)練任務(wù)中各加速卡對(duì)應(yīng)的鏈路信息，根據(jù)鏈路信息確定各加速卡與其他加速卡之間的鏈路類型，對(duì)每種鏈路類型對(duì)應(yīng)的傳輸性能以及計(jì)算性能進(jìn)行探測(cè)，得到傳輸性能探測(cè)結(jié)果以及計(jì)算性能探測(cè)結(jié)果，對(duì)每種鏈路類型對(duì)應(yīng)的控制開(kāi)銷進(jìn)行探測(cè)，得到控制開(kāi)銷探測(cè)結(jié)果，根據(jù)傳輸性能探測(cè)結(jié)果、計(jì)算性能探測(cè)結(jié)果、控制開(kāi)銷探測(cè)結(jié)果以及規(guī)約數(shù)據(jù)量，選擇與各加速卡中規(guī)約運(yùn)算環(huán)節(jié)匹配的目標(biāo)拓?fù)浣Y(jié)構(gòu)。本發(fā)明實(shí)施例的技術(shù)方案可以為分布式訓(xùn)練任務(wù)中的規(guī)約運(yùn)算環(huán)節(jié)選擇最優(yōu)的拓?fù)浣Y(jié)構(gòu)，減少分布式訓(xùn)練過(guò)程的耗時(shí)以及硬件的維護(hù)成本。