一種基于Hive的數(shù)據(jù)修改方法、裝置及存儲介質(zhì)
基本信息
申請?zhí)?/td> | CN202010501946.1 | 申請日 | - |
公開(公告)號 | CN111881173A | 公開(公告)日 | 2020-11-03 |
申請公布號 | CN111881173A | 申請公布日 | 2020-11-03 |
分類號 | G06F16/2458(2019.01)I | 分類 | 計算;推算;計數(shù); |
發(fā)明人 | 洪蒙納;方主升;李繼庚 | 申請(專利權(quán))人 | 博依特(廣州)工業(yè)互聯(lián)網(wǎng)有限公司 |
代理機構(gòu) | 廣州三環(huán)專利商標代理有限公司 | 代理人 | 郭浩輝;麥小嬋 |
地址 | 510000廣東省廣州市黃埔區(qū)攬月路105號401房之自編406室 | ||
法律狀態(tài) | - |
摘要
摘要 | 本發(fā)明公開了一種基于Hive的數(shù)據(jù)修改方法、裝置及存儲介質(zhì),該方法先獲取待錄入數(shù)據(jù),然后根據(jù)采集時間,查詢Hive數(shù)據(jù)倉庫中是否存儲有與待錄入數(shù)據(jù)的采集時間相同的已錄入數(shù)據(jù),如果沒有則進行數(shù)據(jù)錄入,如果有已錄入數(shù)據(jù),則將待錄入數(shù)據(jù)與查詢到的已錄入數(shù)據(jù)劃分為同一組,并在該組數(shù)據(jù)被調(diào)用時,根據(jù)各條數(shù)據(jù)的入庫時間戳,將入庫時間最晚的數(shù)據(jù)作為該組的調(diào)用數(shù)據(jù)。采用本發(fā)明技術(shù)方案對Hive內(nèi)的每條數(shù)據(jù)進行分組管理,并引入入庫時間戳標識是否產(chǎn)生數(shù)據(jù)更新,在數(shù)據(jù)調(diào)用時能夠調(diào)用最新的數(shù)據(jù),避免數(shù)據(jù)錯誤而導致數(shù)據(jù)調(diào)用后的計算錯誤,同時降低了修改成本,提高修改效率。?? |
