一種基于非易失內(nèi)存的分布式計(jì)算方法、系統(tǒng)及存儲(chǔ)介質(zhì)

基本信息

申請(qǐng)?zhí)?/td> CN202110550478.1 申請(qǐng)日 -
公開(kāi)(公告)號(hào) CN113342266A 公開(kāi)(公告)日 2021-09-03
申請(qǐng)公布號(hào) CN113342266A 申請(qǐng)公布日 2021-09-03
分類(lèi)號(hào) G06F3/06(2006.01)I;G06F16/172(2019.01)I;G06F16/182(2019.01)I 分類(lèi) 計(jì)算;推算;計(jì)數(shù);
發(fā)明人 蔣信;劉瑞盛;喻濤 申請(qǐng)(專(zhuān)利權(quán))人 普賽微科技(杭州)有限公司
代理機(jī)構(gòu) 廣州市越秀區(qū)哲力專(zhuān)利商標(biāo)事務(wù)所(普通合伙) 代理人 戴文儀
地址 310000浙江省杭州市臨安區(qū)青山湖街道大園路1188號(hào)2幢3層3034A室
法律狀態(tài) -

摘要

摘要 本發(fā)明公開(kāi)了一種基于非易失內(nèi)存的分布式計(jì)算方法、系統(tǒng)及存儲(chǔ)介質(zhì),其中計(jì)算方法包括步驟S1:獲取初始數(shù)據(jù),對(duì)初始數(shù)據(jù)進(jìn)行預(yù)處理;步驟S2:將預(yù)處理后的數(shù)據(jù)分配至多個(gè)并行的映射節(jié)點(diǎn)進(jìn)行處理,并將處理所得的中間結(jié)果存儲(chǔ)于非易失存儲(chǔ)器中;步驟S3:從所述非易失存儲(chǔ)器中領(lǐng)取中間結(jié)果,并將其輸入歸約節(jié)點(diǎn)中進(jìn)行歸約運(yùn)算,以輸出最終結(jié)果。本發(fā)明能夠在計(jì)算機(jī)宕機(jī)的情況下保持MapReduce計(jì)算過(guò)程中保存在非易失存儲(chǔ)器中的計(jì)算中間結(jié)果不發(fā)生丟失,從而提高系統(tǒng)的效率和可靠性。