一種多節(jié)點并行處理海量任意目錄結(jié)構(gòu)存檔文件的方法

基本信息

申請?zhí)?/td> CN202111031407.7 申請日 -
公開(公告)號 CN113791919A 公開(公告)日 2021-12-14
申請公布號 CN113791919A 申請公布日 2021-12-14
分類號 G06F9/54(2006.01)I;G06F9/50(2006.01)I;G06F9/48(2006.01)I;G06F3/06(2006.01)I 分類 計算;推算;計數(shù);
發(fā)明人 扈紫豪;黃祥志;王寶玉;臧文乾;王更科;余濤;趙亞萌;王棟 申請(專利權(quán))人 北京四維新世紀信息技術(shù)有限公司
代理機構(gòu) 北京志霖恒遠知識產(chǎn)權(quán)代理事務(wù)所(普通合伙) 代理人 杜武
地址 065000河北省廊坊市經(jīng)濟技術(shù)開發(fā)區(qū)云鵬道20號新亞研發(fā)8層
法律狀態(tài) -

摘要

摘要 本發(fā)明提供了一種多節(jié)點并行處理海量任意目錄結(jié)構(gòu)存檔文件的方法,其特征在于,包括如下步驟:用戶輸入文件路徑,并下發(fā)處理文件的任務(wù)至任務(wù)控制節(jié)點;任務(wù)控制節(jié)點派發(fā)任務(wù)至任務(wù)下發(fā)消息隊列,同時指定工作節(jié)點執(zhí)行工作任務(wù);執(zhí)行工作任務(wù)的工作節(jié)點成為執(zhí)行節(jié)點,執(zhí)行節(jié)點執(zhí)行任務(wù),完成任務(wù)后將完成信息反饋至任務(wù)反饋消息隊列;任務(wù)控制節(jié)點從任務(wù)反饋隊列拉取任務(wù)完成情況,判斷符合停止情況后,停止工作線程。本申請在任務(wù)執(zhí)行過程中,根據(jù)任務(wù)完成情況動態(tài)擴容縮容;將任務(wù)派發(fā)給任務(wù)下發(fā)消息隊列,每個節(jié)點的任務(wù)負載更加均衡,處理效率更好。