您的位置:首页 > 新闻资讯 >文章内容
更换代理IP后启动爬虫,是否能断点续传?
来源:互联网 作者:admin 时间:2019-04-09 17:46:56

  更换代理IP后启动爬虫,是否能断点续传?有时候被封IP,导致爬虫程序中断,如果再次启动非常的麻烦,重新再来也没有效果,是否能够在更换新的IP地址后,再从断的地方开始呢?scrapy支持断点续传吗?


  一般Web服务器会默认开启对断点续传的支持。所以,如果直接通过Web服务器来提供文件的下载,可以不用做特别的配置,就能享受断点续传。还是尽可能的选择高匿名度的代理ip,不容易暴露,比如一直在用的机灵代理,匿名性就很好的。


  在scrapy中我想不用多说了,用过scrapy框架的应该都知道,本身scrapy就已经内置了一个参数jobs持久化设置


  要启用持久化支持,你只需要通过 JOBDIR 设置 job directory 选项。这个路径将会存储 所有的请求数据来保持一个单独任务的状态(例如:一次spider爬取(a spider run))。必须要注意的是,这个目录不允许被不同的spider 共享,甚至是同一个spider的不同jobs/runs也不行。也就是说,这个目录就是存储一个 单独 job的状态信息。


  怎么使用


  要启用一个爬虫的持久化,运行以下命令:


  scrapy crawl somespider -s JOBDIR=crawls/somespider-1


  然后,你就能在任何时候安全地停止爬虫(按Ctrl-C或者发送一个信号)。恢复这个爬虫也是同样的命令:


  scrapy crawl somespider -s JOBDIR=crawls/somespider-1


  保持状态


  有的时候,你希望持续保持一些运行长时间的蜘蛛的状态。这时您可以使用 spider.state 属性, 该属性的类型必须是dict. scrapy提供了内置扩展负责在spider启动或结束时,从工作路径(job directory)中序列化、存储、加载属性。


  下面这个例子展示了使用spider state的回调函数(callback)(简洁起见,省略了其他的代码):


更换代理IP后启动爬虫,是否能断点续传?


  持久化的一些坑


  如果你想要使用Scrapy的持久化支持,还有一些东西您需要了解:


  Cookies的有效期


  Cookies是有有效期的(可能过期)。所以如果你没有把你的爬虫及时恢复,那么他可能在被调度回去的时候 就不能工作了。当然如果你的爬虫不依赖cookies就不会有这个问题了。


  请求序列化


  请求是由 pickle 进行序列化的,所以你需要确保你的请求是可被pickle序列化的。 这里最常见的问题是在在request回调函数中使用 lambda 方法,导致无法序列化。


  例如, 这样就会有问题:


更换代理IP后启动爬虫,是否能断点续传?


  更换代理IP后启动爬虫,是否能断点续传?scrapy支持断点续传,无需从头开始,可以参考上文。


相关文章内容简介
推荐阅读
  • 04 2019-07
    靠谱的代理ip服务商难找

    靠谱的代理ip服务商难找,市场上有些代理ip服务商提供的IP资源还是网上扫描来的,用着用着就出问题了,这真的很影响工作。

  • 06 2019-03
    代理服务器缓存,提高用户访问速度

    代理服务器有缓存的功能,可以提高访问速度,因此可以使用游戏的加速,降低网络延迟。今天我们就来看看关于代理服务器的缓存功能,web缓存的种类有哪些?下面一起跟小编去瞧一瞧。

  • 17 2019-04
    萌新能抓取到微博数据吗?编写Python爬虫要注意什么?

    萌新能抓取到微博数据吗?不管爬取什么数据,都是要使用一些工具辅助的,比如,在爬取之前,需要有一个靠谱的爬虫程序,自己写也行,或者去网上找教程找现成的程序也行,现在网上也有

  • 14 2020-01
    为何使用代理ip依旧被封

    有朋友来问我,为什么我用了机灵代理的代理IP还是被封了。他很纳闷,正是因为IP被封才来买代理IP的,没想到还是被封。

  • 28 2020-04
    短效优质代理IP的优势

    相信很多经常使用代理IP的用户都知道有这样一种代理IP:它们的存活期限非常短,基本只有几分钟,但是却有着极高的有效率,并且每天的需求量巨大,它就是短效代理IP。用户在使用时,往往

  • 13 2019-06
    怎么知道爬虫代理好不好用

    怎么知道爬虫代理好不好用?做数据采集的非常讲究爬虫代理的质量,如果这爬虫代理的质量不好,影响会非常大。但是有个问题很关键,怎么知道爬虫代理好不好用呢?

在线咨询
大客户经理
大客户经理
1829380381
13316264505

大客户经理微信

微信公众号

微信公众号

回到顶部