網(wǎng)絡(luò)溯源系統(tǒng)及其數(shù)據(jù)處理方法、計算機存儲介質(zhì)

基本信息

申請?zhí)?/td> CN201910046934.1 申請日 -
公開(公告)號 CN109800208B 公開(公告)日 2019-09-27
申請公布號 CN109800208B 申請公布日 2019-09-27
分類號 G06F16/13(2019.01)I; G06F16/182(2019.01)I 分類 計算;推算;計數(shù);
發(fā)明人 張武斌; 彭闖; 袁敏洵; 袁小坊 申請(專利權(quán))人 湖南友道信息技術(shù)有限公司
代理機構(gòu) 長沙國科天河知識產(chǎn)權(quán)代理有限公司 代理人 邱軼
地址 410000 湖南省長沙市開福區(qū)芙蓉中路一段416號泊福商業(yè)廣場21025號
法律狀態(tài) -

摘要

摘要 本發(fā)明涉及網(wǎng)絡(luò)溯源技術(shù)領(lǐng)域,公開一種網(wǎng)絡(luò)溯源系統(tǒng)及其數(shù)據(jù)處理方法、計算機存儲介質(zhì),以提高HDFS的資源利用率并進一步提高數(shù)據(jù)的存取效率。本發(fā)明方法包括:將網(wǎng)絡(luò)溯源系統(tǒng)劃分為用戶層、預(yù)處理層與存儲層,將預(yù)處理層設(shè)于用戶層與存儲層之間,并在數(shù)據(jù)文件的存儲過程中,由預(yù)處理層將至少兩個小數(shù)據(jù)文件合并成一個大文件并生成對應(yīng)的SMI索引和MDI索引,對應(yīng)地,存儲層將合并文件塊的位置元數(shù)據(jù)信息從NameNode內(nèi)存轉(zhuǎn)移到各對應(yīng)的分布式DataNode內(nèi)存上;在讀取數(shù)據(jù)時,基于SMI索引、MDI索引和轉(zhuǎn)移的合并文件塊的位置元數(shù)據(jù)信息快速確定目標(biāo)內(nèi)容。