一種基于Hadoop的網(wǎng)絡(luò)數(shù)據(jù)挖掘與分析平臺(tái)及其方法

基本信息

申請(qǐng)?zhí)?/td> CN201710141476.0 申請(qǐng)日 -
公開(公告)號(hào) CN106934014B 公開(公告)日 2021-03-19
申請(qǐng)公布號(hào) CN106934014B 申請(qǐng)公布日 2021-03-19
分類號(hào) G06F16/182(2019.01)I;G06F16/27(2019.01)I;G06F16/25(2019.01)I;G06F16/958(2019.01)I 分類 計(jì)算;推算;計(jì)數(shù);
發(fā)明人 朱世偉;趙燕清;閻淮海;鞠鎂隆;于俊鳳;魏墨濟(jì);李晨;李思思;徐蓓蓓;李憲毅;王愛萍 申請(qǐng)(專利權(quán))人 山東省科學(xué)院情報(bào)研究所
代理機(jī)構(gòu) 濟(jì)南圣達(dá)知識(shí)產(chǎn)權(quán)代理有限公司 代理人 黃海麗
地址 250014山東省濟(jì)南市歷下區(qū)科院路19號(hào)
法律狀態(tài) -

摘要

摘要 本發(fā)明公開了一種基于Hadoop的網(wǎng)絡(luò)數(shù)據(jù)挖掘與分析平臺(tái)及其方法,其中,該平臺(tái)包括數(shù)據(jù)采集層、數(shù)據(jù)存儲(chǔ)層、業(yè)務(wù)應(yīng)用層和用戶層;所述數(shù)據(jù)采集層,采用分布式定向采集體系架構(gòu)且以不同網(wǎng)絡(luò)中的終端站點(diǎn)作為網(wǎng)絡(luò)數(shù)據(jù)采集的一個(gè)基本任務(wù)單位來對(duì)原始網(wǎng)絡(luò)數(shù)據(jù)進(jìn)行采集,并向數(shù)據(jù)存儲(chǔ)層匯聚傳輸;其中,每個(gè)基本任務(wù)單位采用獨(dú)立的采集規(guī)則及策略;及所述數(shù)據(jù)存儲(chǔ)層,用于完成數(shù)據(jù)的原始網(wǎng)絡(luò)數(shù)據(jù)的匯聚、存儲(chǔ)及原始處理,并提供不同類型的功能調(diào)用服務(wù);所述數(shù)據(jù)存儲(chǔ)層采用Hadoop框架實(shí)現(xiàn);及所述業(yè)務(wù)應(yīng)用層,用于調(diào)取數(shù)據(jù)存儲(chǔ)層處理后的網(wǎng)絡(luò)數(shù)據(jù)并進(jìn)行分析,來實(shí)現(xiàn)公有組件與個(gè)性業(yè)務(wù)應(yīng)用組件剝離,并將網(wǎng)絡(luò)數(shù)據(jù)分析后的結(jié)果傳送至用戶層進(jìn)行實(shí)時(shí)展示。??