一種服務(wù)于互聯(lián)網(wǎng)數(shù)據(jù)采集的代理IP請求頻率自動(dòng)調(diào)整方法

基本信息

申請?zhí)?/td> CN202010604567.5 申請日 -
公開(公告)號 CN111756850A 公開(公告)日 2020-10-09
申請公布號 CN111756850A 申請公布日 2020-10-09
分類號 H04L29/08(2006.01)I 分類 電通信技術(shù);
發(fā)明人 范曉忻;文章;吳廣良 申請(專利權(quán))人 金電聯(lián)行(北京)信息技術(shù)有限公司
代理機(jī)構(gòu) 北京愛普納杰專利代理事務(wù)所(特殊普通合伙) 代理人 金電聯(lián)行(北京)信息技術(shù)有限公司
地址 100000北京市朝陽區(qū)朝外大街乙6號朝外sohoA座21層
法律狀態(tài) -

摘要

摘要 本發(fā)明涉及一種服務(wù)于互聯(lián)網(wǎng)數(shù)據(jù)采集的代理IP請求頻率自動(dòng)調(diào)整方法,包括如下步驟:根據(jù)代理IP屬性,通過監(jiān)控代理IP當(dāng)前的下載時(shí)間來實(shí)時(shí)調(diào)整其間隔時(shí)間T,從而控制不同優(yōu)劣程度的代理IP的請求訪問頻率;所述間隔時(shí)間T是代理從上次使用完畢到下次使用開始的中間時(shí)間。本發(fā)明的技術(shù)方案可以控制不同優(yōu)劣程度的代理IP的請求訪問頻率;將好用的的代理的訪問頻率加大,將不好用的代理的訪問頻率減小或不使用;從宏觀上減少垃圾代理的使用時(shí)間,從而增加單位時(shí)間內(nèi)代理的任務(wù)下載量,提高爬蟲的效率。??