一種流式數(shù)據(jù)處理方法及裝置

基本信息

申請(qǐng)?zhí)?/td> CN201811206809.4 申請(qǐng)日 -
公開(kāi)(公告)號(hào) CN109408546A 公開(kāi)(公告)日 2019-03-01
申請(qǐng)公布號(hào) CN109408546A 申請(qǐng)公布日 2019-03-01
分類(lèi)號(hào) G06F16/2455;G06F16/22;G06F16/182;G06Q40/00 分類(lèi) 計(jì)算;推算;計(jì)數(shù);
發(fā)明人 彭陽(yáng);張小言 申請(qǐng)(專(zhuān)利權(quán))人 深圳中順易金融服務(wù)有限公司
代理機(jī)構(gòu) 深圳市凱達(dá)知識(shí)產(chǎn)權(quán)事務(wù)所 代理人 劉大彎
地址 518000 廣東省深圳市前海深港合作區(qū)前灣一路1號(hào)A棟201室(入駐深圳市前海商務(wù)秘書(shū)有限公司)
法律狀態(tài) -

摘要

摘要 本發(fā)明涉及一種流式數(shù)據(jù)處理方法及裝置,應(yīng)用于大數(shù)據(jù)綜合處理系統(tǒng),所述大數(shù)據(jù)綜合處理系統(tǒng)對(duì)接多個(gè)信托綜合賬戶(hù)系統(tǒng),所述多個(gè)信托綜合賬戶(hù)系統(tǒng)包括訂單系統(tǒng)和多個(gè)系統(tǒng)內(nèi)部子系統(tǒng);所述流式數(shù)據(jù)處理方法包括業(yè)務(wù)數(shù)據(jù)庫(kù)、內(nèi)存計(jì)算模塊Spark和離線(xiàn)計(jì)算模塊Hive,包括如下步驟:從所述多個(gè)系統(tǒng)內(nèi)部子系統(tǒng)中選定源頭子系統(tǒng)的訂單號(hào)為系統(tǒng)全局標(biāo)識(shí),通過(guò)所述spark完成對(duì)每個(gè)子系統(tǒng)相關(guān)表增加全局標(biāo)識(shí)的任務(wù)。