數(shù)據(jù)采集方法、裝置及終端設(shè)備

基本信息

申請(qǐng)?zhí)?/td> CN201811512927.8 申請(qǐng)日 -
公開(公告)號(hào) CN109800259B 公開(公告)日 2021-08-10
申請(qǐng)公布號(hào) CN109800259B 申請(qǐng)公布日 2021-08-10
分類號(hào) G06F16/25 分類 計(jì)算;推算;計(jì)數(shù);
發(fā)明人 張秀仕;張長(zhǎng)虹 申請(qǐng)(專利權(quán))人 深圳市金證科技股份有限公司
代理機(jī)構(gòu) 深圳中一聯(lián)合知識(shí)產(chǎn)權(quán)代理有限公司 代理人 張全文
地址 518057 廣東省深圳市南山區(qū)科技園高新區(qū)南區(qū)高新南五道金證科技大樓8-9層
法律狀態(tài) -

摘要

摘要 本發(fā)明適用于數(shù)據(jù)處理技術(shù)領(lǐng)域,提供了數(shù)據(jù)采集方法、裝置及終端設(shè)備,包括:讀取預(yù)先配置的配置文件;根據(jù)所述配置文件配置的采集任務(wù),實(shí)時(shí)獲取目標(biāo)數(shù)據(jù)源數(shù)據(jù),其中所述采集任務(wù)的數(shù)量大于或等于1,每個(gè)采集任務(wù)對(duì)應(yīng)一個(gè)所述目標(biāo)數(shù)據(jù)源;根據(jù)所述配置文件中與所述采集任務(wù)對(duì)應(yīng)配置的解碼器,解析所述目標(biāo)數(shù)據(jù)源數(shù)據(jù),得到第一數(shù)據(jù);將所述第一數(shù)據(jù)進(jìn)行格式轉(zhuǎn)換,得到第二數(shù)據(jù);發(fā)送所述第二數(shù)據(jù)至開源分布式流處理平臺(tái)Kafka的集群中。本發(fā)明實(shí)施例能夠?qū)崿F(xiàn)多數(shù)據(jù)源、大數(shù)據(jù)量數(shù)據(jù)的實(shí)時(shí)采集。