基于Hive分區(qū)表實(shí)現(xiàn)物化視圖性能優(yōu)化的方法及系統(tǒng)
基本信息
申請(qǐng)?zhí)?/td> | CN202010808579.X | 申請(qǐng)日 | - |
公開(kāi)(公告)號(hào) | CN111984680A | 公開(kāi)(公告)日 | 2020-11-24 |
申請(qǐng)公布號(hào) | CN111984680A | 申請(qǐng)公布日 | 2020-11-24 |
分類(lèi)號(hào) | G06F16/2453;G06F16/242 | 分類(lèi) | 計(jì)算;推算;計(jì)數(shù); |
發(fā)明人 | 趙恒杰 | 申請(qǐng)(專(zhuān)利權(quán))人 | 北京海致科技集團(tuán)有限公司 |
代理機(jī)構(gòu) | - | 代理人 | - |
地址 | 100083 北京市海淀區(qū)學(xué)院路甲5號(hào)2幢平房B-1011 | ||
法律狀態(tài) | - |
摘要
摘要 | 本發(fā)明公開(kāi)了基于Hive分區(qū)表實(shí)現(xiàn)物化視圖性能優(yōu)化的方法及系統(tǒng),其方法包括如下步驟:1、用戶(hù)需要將原表設(shè)為分區(qū)表,系統(tǒng)中稱(chēng)為高性能表,指定分區(qū)字段,分區(qū)粒度等信息,底層根據(jù)用戶(hù)的配置將原表轉(zhuǎn)化成分區(qū)表;2、在原表有數(shù)據(jù)變化,數(shù)據(jù)追加、修改或刪除時(shí)將變化的信息記錄下來(lái),包括變化的分區(qū),數(shù)據(jù)量等;3、在執(zhí)行物化視圖更行時(shí)根據(jù)有數(shù)據(jù)變化的分區(qū)的數(shù)據(jù)進(jìn)行計(jì)算,將計(jì)算結(jié)果替換原物化視圖對(duì)應(yīng)分區(qū)的數(shù)據(jù),得到最終的數(shù)據(jù)。其系統(tǒng)包括:1、原表存儲(chǔ)數(shù)據(jù)類(lèi)型轉(zhuǎn)化裝置;2、物化視圖映射邏輯配置裝置。本專(zhuān)利極大的減少了原數(shù)據(jù)量非常大時(shí)物化視圖的刷新時(shí)間,極大的提高了物化視圖刷新的性能;降低了用戶(hù)的使用門(mén)檻,對(duì)不懂?dāng)?shù)據(jù)庫(kù),不懂編程的用戶(hù)非常友好。 |
