一種多集群參數(shù)同步方法及裝置

基本信息

申請?zhí)?/td> CN202011601441.9 申請日 -
公開(公告)號 CN114765615A 公開(公告)日 2022-07-19
申請公布號 CN114765615A 申請公布日 2022-07-19
分類號 H04L67/1095(2022.01)I;G06K9/62(2022.01)I 分類 電通信技術(shù);
發(fā)明人 練韻文;李億;戴宗宏 申請(專利權(quán))人 華為云計(jì)算技術(shù)有限公司
代理機(jī)構(gòu) 北京同達(dá)信恒知識產(chǎn)權(quán)代理有限公司 代理人 -
地址 550025貴州省貴陽市貴安新區(qū)黔中大道交興功路華為云數(shù)據(jù)中心
法律狀態(tài) -

摘要

摘要 一種多集群參數(shù)同步方法及裝置,用于解決現(xiàn)有技術(shù)中單一集群無法滿足當(dāng)前較大規(guī)模訓(xùn)練作業(yè)的需求的問題。在本申請中包括N輪集群間同步;其中,N輪集群間同步中的第I輪集群間同步,包括:第一同步節(jié)點(diǎn)獲取m個(gè)集群分別對應(yīng)的待同步參數(shù),任一集群對應(yīng)的待同步參數(shù)是該集群根據(jù)第I?1輪集群間同步后的參數(shù)確定的,m個(gè)集群包括第一集群和m?1個(gè)第二集群,第一集群是m個(gè)集群中的任一個(gè),第一同步節(jié)點(diǎn)是第一集群中n個(gè)計(jì)算節(jié)點(diǎn)的任一個(gè);第一同步節(jié)點(diǎn)根據(jù)m個(gè)集群分別對應(yīng)的待同步參數(shù),確定第I輪集群間同步后的參數(shù),m、n均為大于1的正整數(shù),N、I均為大于0的正整數(shù)。