一種處理海量數(shù)據(jù)的方法以及系統(tǒng)
基本信息
申請(qǐng)?zhí)?/td> | CN201810194422.5 | 申請(qǐng)日 | - |
公開(公告)號(hào) | CN108446352A | 公開(公告)日 | 2018-08-24 |
申請(qǐng)公布號(hào) | CN108446352A | 申請(qǐng)公布日 | 2018-08-24 |
分類號(hào) | G06F17/30 | 分類 | 計(jì)算;推算;計(jì)數(shù); |
發(fā)明人 | 王立;雷雨林 | 申請(qǐng)(專利權(quán))人 | 深圳市網(wǎng)信聯(lián)動(dòng)通信技術(shù)股份有限公司 |
代理機(jī)構(gòu) | 深圳市順天達(dá)專利商標(biāo)代理有限公司 | 代理人 | 李琴 |
地址 | 518057 廣東省深圳市南山區(qū)高新中區(qū)科技中二路1號(hào)深圳軟件園二期13棟702房 | ||
法律狀態(tài) | - |
摘要
摘要 | 本發(fā)明公開了一種處理海量數(shù)據(jù)的方法以及系統(tǒng),方法包括:利用多個(gè)主機(jī)組建電腦集群,將需處理的數(shù)據(jù)文件存儲(chǔ)在集群中控制臺(tái)的共享的硬盤區(qū)域上;控制臺(tái)使用批處理語(yǔ)言將共享的硬盤區(qū)域上所有待處理的數(shù)據(jù)文件的處理任務(wù)分別分配給所述局域網(wǎng)絡(luò)中的其他主機(jī),且在共享的硬盤區(qū)域上為其他主機(jī)生成目錄并存放相關(guān)的命令文件;其他主機(jī)根據(jù)所述命令文件處理接收到的待處理的數(shù)據(jù)文件,本發(fā)明利用組建的電腦集群處理共同分擔(dān)處理需要處理的數(shù)據(jù)文件,且基于操作系統(tǒng)自帶的批處理語(yǔ)言,不需要額外開發(fā)其他的工具及系統(tǒng),就可以簡(jiǎn)單快速的組建電腦集群,建立數(shù)據(jù)文件處理任務(wù),整個(gè)方案架構(gòu)簡(jiǎn)單,成本低。 |
