數(shù)據(jù)采集方法、裝置及終端設(shè)備
基本信息
申請(qǐng)?zhí)?/td> | CN201811512927.8 | 申請(qǐng)日 | - |
公開(公告)號(hào) | CN109800259B | 公開(公告)日 | 2021-08-10 |
申請(qǐng)公布號(hào) | CN109800259B | 申請(qǐng)公布日 | 2021-08-10 |
分類號(hào) | G06F16/25 | 分類 | 計(jì)算;推算;計(jì)數(shù); |
發(fā)明人 | 張秀仕;張長(zhǎng)虹 | 申請(qǐng)(專利權(quán))人 | 深圳市金證科技股份有限公司 |
代理機(jī)構(gòu) | 深圳中一聯(lián)合知識(shí)產(chǎn)權(quán)代理有限公司 | 代理人 | 張全文 |
地址 | 518057 廣東省深圳市南山區(qū)科技園高新區(qū)南區(qū)高新南五道金證科技大樓8-9層 | ||
法律狀態(tài) | - |
摘要
摘要 | 本發(fā)明適用于數(shù)據(jù)處理技術(shù)領(lǐng)域,提供了數(shù)據(jù)采集方法、裝置及終端設(shè)備,包括:讀取預(yù)先配置的配置文件;根據(jù)所述配置文件配置的采集任務(wù),實(shí)時(shí)獲取目標(biāo)數(shù)據(jù)源數(shù)據(jù),其中所述采集任務(wù)的數(shù)量大于或等于1,每個(gè)采集任務(wù)對(duì)應(yīng)一個(gè)所述目標(biāo)數(shù)據(jù)源;根據(jù)所述配置文件中與所述采集任務(wù)對(duì)應(yīng)配置的解碼器,解析所述目標(biāo)數(shù)據(jù)源數(shù)據(jù),得到第一數(shù)據(jù);將所述第一數(shù)據(jù)進(jìn)行格式轉(zhuǎn)換,得到第二數(shù)據(jù);發(fā)送所述第二數(shù)據(jù)至開源分布式流處理平臺(tái)Kafka的集群中。本發(fā)明實(shí)施例能夠?qū)崿F(xiàn)多數(shù)據(jù)源、大數(shù)據(jù)量數(shù)據(jù)的實(shí)時(shí)采集。 |
