一種提高基于Hadoop大數(shù)據(jù)綜合查詢引擎效率的方法及系統(tǒng)

基本信息

申請(qǐng)?zhí)?/td> CN201811148630.8 申請(qǐng)日 -
公開(kāi)(公告)號(hào) CN109446395A 公開(kāi)(公告)日 2019-03-08
申請(qǐng)公布號(hào) CN109446395A 申請(qǐng)公布日 2019-03-08
分類(lèi)號(hào) G06F16/951(2019.01)I 分類(lèi) 計(jì)算;推算;計(jì)數(shù);
發(fā)明人 歐陽(yáng)濤 申請(qǐng)(專利權(quán))人 上海派博軟件有限公司
代理機(jī)構(gòu) 杭州天勤知識(shí)產(chǎn)權(quán)代理有限公司 代理人 王琛
地址 200000 上海市長(zhǎng)寧區(qū)天山路641號(hào)1號(hào)樓902室
法律狀態(tài) -

摘要

摘要 本發(fā)明公開(kāi)了一種提高基于Hadoop大數(shù)據(jù)綜合查詢引擎效率的方法及系統(tǒng),其利用各計(jì)算引擎的優(yōu)勢(shì)和通過(guò)技術(shù)手段避開(kāi)各引擎的劣勢(shì)而達(dá)到大數(shù)據(jù)查詢效率提升的效果;在實(shí)時(shí)流處理需要的接口中,本發(fā)明切換引擎到Spark,再處理任務(wù)結(jié)束需要切換至批處理的任務(wù),大大減輕新計(jì)算引擎對(duì)之前的計(jì)算引擎的排斥性影響,降低開(kāi)發(fā)人員的業(yè)務(wù)代碼重構(gòu),尤其是涉及在老的計(jì)算引擎上的復(fù)雜業(yè)務(wù)計(jì)算。本發(fā)明計(jì)算引擎的智能切換,提高了大數(shù)據(jù)綜合查詢效率,提高業(yè)務(wù)場(chǎng)景的適應(yīng)能力。