一種圖指標(biāo)流批一體化處理方法及裝置

基本信息

申請(qǐng)?zhí)?/td> CN202110365349.5 申請(qǐng)日 -
公開(kāi)(公告)號(hào) CN112732727B 公開(kāi)(公告)日 2021-06-18
申請(qǐng)公布號(hào) CN112732727B 申請(qǐng)公布日 2021-06-18
分類(lèi)號(hào) G06F16/22;G06F16/901;G06F16/174;G06F16/182 分類(lèi) 計(jì)算;推算;計(jì)數(shù);
發(fā)明人 顧凌云;郭志攀;王偉;張曉豐 申請(qǐng)(專(zhuān)利權(quán))人 南京冰鑒信息科技有限公司
代理機(jī)構(gòu) 成都頂峰專(zhuān)利事務(wù)所(普通合伙) 代理人 李崧巖
地址 210000 江蘇省南京市鼓樓區(qū)中山北路99號(hào)11層
法律狀態(tài) -

摘要

摘要 本申請(qǐng)的一種圖指標(biāo)流批一體化處理方法及裝置,根據(jù)全圖數(shù)據(jù)得到邊表和點(diǎn)表并存儲(chǔ)到Hive數(shù)據(jù)庫(kù)中,將邊表和點(diǎn)表輸入到計(jì)算模型生成第一連通圖表,將邊表、點(diǎn)表以及第一連通圖表輸入到預(yù)設(shè)程序中得到圖數(shù)據(jù)庫(kù)底層文件,調(diào)用圖指標(biāo)的計(jì)算模型以及參數(shù)列表的參數(shù)組合,在圖數(shù)據(jù)庫(kù)底層文件中查找與參數(shù)組合匹配的目標(biāo)數(shù)據(jù),根據(jù)計(jì)算模型對(duì)目標(biāo)數(shù)據(jù)進(jìn)行圖指標(biāo)計(jì)算得到圖指標(biāo)計(jì)算結(jié)果,通過(guò)調(diào)用HBase的api將圖指標(biāo)計(jì)算結(jié)果存入Hbase。將全圖數(shù)據(jù)進(jìn)行拆分得到不同連通圖的數(shù)據(jù)分別精確的生成了不同的圖數(shù)據(jù)庫(kù)底層文件,在指標(biāo)計(jì)算時(shí)不必跨網(wǎng)絡(luò)拉取數(shù)據(jù),性能更高,能夠?qū)⒂?jì)算結(jié)果進(jìn)行精確存儲(chǔ)。