您的位置:首页 > 新闻资讯 >文章内容
爬虫效率太慢,使用多进程效果怎么样?
来源:互联网 作者:admin 时间:2019-02-26 16:05:24

  当我们想要提高爬虫的爬取效率时,可以使用多进程,多线程,协程等,那么使用哪种方法比较好呢?今天先跟小编来了解下关于多进程,进程创建方法,以及多进程的优缺点。


  一、什么是进程


  最直观的就是一个个pid,官方的说法就:进程是程序在计算机上的一次执行活动。


  代码中的进程是指没有运行之前,称之为程序,程序运行起来就是一个进程,如果只有一个进程,称之为主进程。如果通过这个进程创建了其他进程,称之为子进程。


  二、进程创建


  1.面向过程


爬虫效率太慢,使用多进程效果怎么样?


  2.面向对象


爬虫效率太慢,使用多进程效果怎么样?


  3.进程之间是否共享局部变量:不共享局部变量


  4.进程之间是否共享全局变量:不共享全局变量


  5.进程池


爬虫效率太慢,使用多进程效果怎么样?


  三、多进程的优缺点


  优点:就是稳定性高,因为一个子进程崩溃了,不会影响主进程和其他子进程。(当然主进程挂了所有进程就全挂了,但是Master进程只负责分配任务,挂掉的概率低)著名的Apache最早就是采用多进程模式。


  缺点:创建进程的代价大,在Unix/Linux系统下,用fork调用还行,在Windows下创建进程开销巨大。另外,操作系统能同时运行的进程数也是有限的,在内存和CPU的限制下,如果有几千个进程同时运行,操作系统连调度都会成问题。


  上文介绍了多进程的一些基本知识。在多核CPU上,可以运行多个进程(数量与CPU核心数相同),充分利用多核CPU。由于系统总的进程数量十分有限,因此操作系统调度非常高效。


相关文章内容简介
推荐阅读
  • 17 2019-05
    使用https代理ip降低网络风险

    使用https代理ip降低网络风险,互联网急速发展的今天,网络安全急需得到人们重视,因此衍生的https代理ip变得必不可少了。使用代理ip可以保护自己的本地ip,防止被黑被入侵,来保障个人信息

  • 11 2019-05
    高匿代理ip在营销中的作用

    高匿代理ip在营销中的作用是怎样?之前营销都是线下的,但是网络的发展,很多营销都是在网络上的,推广范围广。不过如果是免费推广,发的数量多了,可能会被限制的,这改怎么办呢?可

  • 02 2019-04
    网站都有限制,没有代理IP估计寸步难行

    有没有使用网络爬虫不用代理IP的,估计是比较少吧,毕竟现在各个网站都有IP限制的,如果没有这代理IP工具,估计寸步难行。

  • 02 2019-09
    免费IP代理与收费IP代理的区别

    有些用户想着自己只是偶尔用一下代理IP,并不是经常需要用到来处理什么大项目,就去选择用一些网上搜到的免费代理。但是这么做看似是省了钱,实质上风险却很大,不然为什么越来越多人

  • 11 2019-10
    代理IP爬取梨视频被封如何解决?

    在使用代理IP爬取的时候,IP被封了怎么解决?下面机灵代理为大家带来在爬取梨视频数据的案例来给大家梳理思路,主要步骤包括以下内容:

  • 27 2019-06
    http代理提供足够多的IP数量

    http代理提供足够多的IP数量,可以容易的解决各种对于IP的限制,这个IP被限制了,马上可以引入http代理更换其他的IP地址,秒换IP都行,何必要等IP解封呢?

在线咨询
大客户经理
大客户经理
1829380381
13316264505

大客户经理微信

微信公众号

微信公众号

回到顶部