聯(lián)邦學習模型的訓練方法及裝置
基本信息
申請?zhí)?/td> | CN202010651671.X | 申請日 | - |
公開(公告)號 | CN111950740A | 公開(公告)日 | 2020-11-17 |
申請公布號 | CN111950740A | 申請公布日 | 2020-11-17 |
分類號 | G06N20/20 | 分類 | 計算;推算;計數(shù); |
發(fā)明人 | 夏家駿;魯穎;張珣;沈敏均;陳楚元;張佳辰 | 申請(專利權)人 | 光之樹(北京)科技有限公司 |
代理機構 | 北京清亦華知識產權代理事務所(普通合伙) | 代理人 | 光之樹(北京)科技有限公司 |
地址 | 100125 北京市朝陽區(qū)光明大廈B座0307 | ||
法律狀態(tài) | - |
摘要
摘要 | 本申請公開了一種聯(lián)邦學習模型的訓練方法及裝置,執(zhí)行主體為目標節(jié)點,該方法包括:在聯(lián)邦學習模型的訓練的過程中,獲取處于掉線狀態(tài)的第一訓練節(jié)點,從本地緩存中獲取第一訓練節(jié)點的替代中間結果秘密份額;根據(jù)替代中間結果秘密份額,獲取第一訓練節(jié)點在目標節(jié)點上的第一損失函數(shù)秘密份額;接收處于在線狀態(tài)的剩余參與節(jié)點發(fā)送的第二中間結果秘密份額,并根據(jù)第二中間結果秘密份額,獲取剩余參與節(jié)點在目標節(jié)點上的第二損失函數(shù)秘密份額;根據(jù)第一梯度秘密份額、第二梯度秘密份額和目標節(jié)點自身的損失函數(shù),獲取聯(lián)邦學習模型的損失函數(shù)。由此,若訓練節(jié)點掉線,目標節(jié)點從本地緩存中獲取替代中間結果秘密份額繼續(xù)訓練,減小節(jié)點掉線導致的影響。 |
