您的位置:首页 > 新闻资讯 >文章内容
使用代理IP分布式爬虫
来源:互联网 作者:admin 时间:2019-10-16 10:46:38

  分布式爬虫这种抓取方式能够帮助爬虫工作者提高工作效率,不仅是爬虫进度得到了提升,而且数据抓取的速度也有飞跃进步。那么使用代理IP进行分布式爬虫要怎么进行呢?以下是操作教程:


使用代理IP分布式爬虫


  第一:每个进程从接口API中随机取一个IP列表(比如一次提取50个IP)来循环使用,失败则再调用API获取,大概逻辑如下:


  每个线程,从接口随机取回一批IP回来,循环尝试IP列表去抓取数据;


  如果访问成功,则继续抓取下一条。


  如果失败了(比如超时、出现验证码等),再从接口取一批IP,继续尝试。


  方案缺点:IP代理都是有时间有效期的,如果提取了50个,你在一定期限内是有了前20个,后面的可能由于时间限制就用不了了。


  如果你把http请求设置的链接时间超时为3秒钟,毒物时间超时间5秒,那么这3-8秒就可能被你浪费掉,有这3-8秒能做好多事了。


  第二:每个进程从接口API中随机取一个IP来使用,失败则再调用API获取一个IP,大概逻辑如下:


  每个线程,从接口随机取回一个IP来,用这个IP去访问资源,


  如果访问成功,则继续抓下一条。


  如果失败了(比如超时、出现验证码等),再从接口随机取一个IP,继续尝试。


  方案缺点:频繁的调用API获取IP,会对代理服务器造成非常大的压力,影响API接口稳定,可能会被限制提取。这种方案不能持久稳定的运行。


  第三:先提取大量IP导入本地数据库,从数据库里面取IP,大概逻辑如下:


  在数据库里面建一个表,写一个导入脚本,每分钟请求多少次API(咨询代理IP服务商建议),把IP列表导入到数据库里面。


  在数据库里面记录好 导入时间、IP、Port、过期时间、IP可用状态 等字段;


  写一个抓取脚本,抓取脚本从数据库里面读取可用IP,每个进程从数据库获取一个IP进行使用。


  执行抓取,对结果进行判断,处理cookie等,只要出现验证码或者失败就放弃这个IP,重新换一个IP。


  除了要有优质的代理IP,选择爬虫的方式也很重要,分布式爬虫能够让我们有效完成工作,深受广大爬虫工作的喜爱。


相关文章内容简介
推荐阅读
  • 28 2020-12
    免费代理IP好不好用

    免费代理IP不用花钱,很多人都喜欢用,而且还很方便,不过也有一个致命的缺点,那就是免费代理IP的可用量很少,即使是可用的,失效的时间也很快。

  • 03 2020-09
    爬虫代理ip​的特点

    爬虫采集在当今世界有着十分重要的地位,特别是对于一些数据分析行业来说,爬虫采集更是不可缺少的一步,爬虫要想顺利运行就必须拥有足够的代理ip,那么什么样的代理ip可以用来作爬虫

  • 10 2019-09
    使用代理IP开展爬虫工作准备流程

    一个完整的爬虫代理服务是怎么样的呢?爬虫工作者的代理IP要从什么地方找,又怎么去测试是否有效呢?如果你也有以上疑问,今天机灵代理正好为大家带来有关搭建爬虫代理的教程讲解。

  • 15 2019-03
    企业使用哪个IP代理比较好?

    普通人是比较少会使用到IP代理的,通常都是一些企业使用,那么企业使用哪个IP代理比较好?企业使用IP代理,主要是因为在使用代理ip采集数据的时候,经常会碰到有反采集策略规则的网站.

  • 29 2019-07
    IP代理匿名度不同用哪种好?

    IP代理匿名度不同用哪种好?代理有着不用说大家也知道的重要性,不管是做CPA还是做点击亦或者投票,代理都能帮我们一下,虽然帮的忙不大,但是却很重要。但是很多人只是会用代理,但代理

  • 24 2019-04
    代理IP可以隐藏IP去浏览网站

    代理IP可以隐藏IP去浏览网站,这个是代理IP的一个功能,很多人都经常使用的,可以隐藏IP去网站采集信息,可以隐藏IP去网站发帖,或者是发软件,或者是回复等等。

在线咨询
大客户经理
大客户经理
1829380381
13316264505

大客户经理微信

微信公众号

微信公众号

回到顶部