一種基于統(tǒng)計(jì)分析的Spark拖延任務(wù)診斷方法

基本信息

申請(qǐng)?zhí)?/td> CN201811113777.3 申請(qǐng)日 -
公開(公告)號(hào) CN109240890A 公開(公告)日 2019-01-18
申請(qǐng)公布號(hào) CN109240890A 申請(qǐng)公布日 2019-01-18
分類號(hào) G06F11/30;G06F11/34 分類 計(jì)算;推算;計(jì)數(shù);
發(fā)明人 劉延新;李亞瓊;吳昊;李守超 申請(qǐng)(專利權(quán))人 江蘇潤(rùn)和軟件股份有限公司
代理機(jī)構(gòu) - 代理人 -
地址 210041 江蘇省南京市雨花臺(tái)區(qū)鐵心橋工業(yè)園
法律狀態(tài) -

摘要

摘要 發(fā)明涉及一種基于統(tǒng)計(jì)分析的Spark拖延任務(wù)診斷方法,監(jiān)測(cè)數(shù)據(jù)中心并行執(zhí)行任務(wù),從監(jiān)測(cè)數(shù)據(jù)中推斷出任務(wù)執(zhí)行拖延的原因。在相同階段,監(jiān)測(cè)相同任務(wù)在不同節(jié)點(diǎn)的執(zhí)行情況,搜集物理服務(wù)器的監(jiān)測(cè)數(shù)據(jù),分析Spark日志文件得到任務(wù)執(zhí)行的監(jiān)測(cè)數(shù)據(jù)。比較任務(wù)執(zhí)行時(shí)間以檢測(cè)拖延任務(wù),分析拖延任務(wù)與正常執(zhí)行任務(wù)的特征值的偏離程度以定位異常特征,從而診斷任務(wù)拖延的原因。