一種基于數(shù)據(jù)分析的分布式數(shù)據(jù)清洗系統(tǒng)及方法
基本信息
申請(qǐng)?zhí)?/td> | CN202010709750.1 | 申請(qǐng)日 | - |
公開(kāi)(公告)號(hào) | CN111858572B | 公開(kāi)(公告)日 | 2021-06-15 |
申請(qǐng)公布號(hào) | CN111858572B | 申請(qǐng)公布日 | 2021-06-15 |
分類(lèi)號(hào) | G06F16/215(2019.01)I;G06K9/62(2006.01)I | 分類(lèi) | 計(jì)算;推算;計(jì)數(shù); |
發(fā)明人 | 張偉;徐志峰 | 申請(qǐng)(專(zhuān)利權(quán))人 | 山東省科院易達(dá)信息科技有限公司 |
代理機(jī)構(gòu) | 江蘇長(zhǎng)德知識(shí)產(chǎn)權(quán)代理有限公司 | 代理人 | 周天雯 |
地址 | 250000山東省濟(jì)南市中國(guó)(山東)自由貿(mào)易試驗(yàn)區(qū)濟(jì)南片區(qū)新濼大街2008號(hào)銀荷大廈B座303 | ||
法律狀態(tài) | - |
摘要
摘要 | 本發(fā)明涉及一種基于數(shù)據(jù)分析的分布式數(shù)據(jù)清洗系統(tǒng),該基于數(shù)據(jù)分析的分布式數(shù)據(jù)清洗系統(tǒng),包括多元異構(gòu)數(shù)據(jù)庫(kù),存儲(chǔ)用戶(hù)模型、元數(shù)據(jù)元素以及與其有對(duì)應(yīng)關(guān)系的源數(shù)據(jù)元素;以及至少一個(gè)以上的處理單元,可操作來(lái):提取多元異構(gòu)數(shù)據(jù)庫(kù)的用戶(hù)模型、元數(shù)據(jù)元素以及源數(shù)據(jù)元素;選出初始元數(shù)據(jù)元素;選擇所述用戶(hù)模型的至少一個(gè)以上的數(shù)據(jù)屬性項(xiàng)作為關(guān)系參數(shù),所述關(guān)系參數(shù)對(duì)應(yīng)的預(yù)設(shè)加權(quán)值,提取元數(shù)據(jù)集Q;對(duì)元數(shù)據(jù)集Q中的所述元數(shù)據(jù)元素進(jìn)行清洗;本發(fā)明基于用戶(hù)模型配合關(guān)系參數(shù)的選定能夠篩選多個(gè)類(lèi)別的元數(shù)據(jù)集,對(duì)于各個(gè)類(lèi)別的元數(shù)據(jù)集可以選定針對(duì)的清洗規(guī)則,提高清洗速度,具有較高的靈活度和實(shí)用性,提高了數(shù)據(jù)清洗的可控性。 |
