一種分布式數(shù)據(jù)同步方法及系統(tǒng)

基本信息

申請?zhí)?/td> CN202111182181.0 申請日 -
公開(公告)號 CN113901141A 公開(公告)日 2022-01-07
申請公布號 CN113901141A 申請公布日 2022-01-07
分類號 G06F16/27(2019.01)I;G06F16/2455(2019.01)I;G06F9/48(2006.01)I 分類 計算;推算;計數(shù);
發(fā)明人 王濟平;黎剛;劉繼華;周健雄;湯克云;謝曉鋒 申請(專利權(quán))人 京信數(shù)據(jù)科技有限公司
代理機構(gòu) 深圳余梅專利代理事務(wù)所(特殊普通合伙) 代理人 陳余才
地址 528400廣東省中山市東區(qū)中山五路57號7層
法律狀態(tài) -

摘要

摘要 本發(fā)明涉及一種分布式數(shù)據(jù)同步方法及系統(tǒng)。方法包括步驟:調(diào)度器向源數(shù)據(jù)庫查詢是否需要進行同步任務(wù),并根據(jù)查詢結(jié)果彈性調(diào)整調(diào)度器查詢間隔時間;調(diào)度器選擇同步組件集群中的其中一個同步組件執(zhí)行任務(wù);同步組件進行任務(wù)切分并采用多個并發(fā)線程處理;同步組件從源數(shù)據(jù)庫讀取同步數(shù)據(jù)集并進行數(shù)據(jù)處理;同步組件生成臨時唯一標(biāo)識替換同步數(shù)據(jù)集的原有唯一標(biāo)識,然后將同步數(shù)據(jù)集批量寫入目標(biāo)數(shù)據(jù)庫后刪除目標(biāo)數(shù)據(jù)庫中有更新的舊數(shù)據(jù)記錄,最后批量還原同步數(shù)據(jù)集的原有唯一標(biāo)識。本發(fā)明使得整個數(shù)據(jù)同步的性能得到極大提升。