您的位置:首页 > 新闻资讯 >文章内容
单线程没效率?多线程效果更佳,常用的几种线程池
来源:互联网 作者:admin 时间:2019-03-09 14:50:40

  其实单线程远不能满足我们的需求,毕竟单线程的能力有限,不管怎么抓取,让其慢慢积累都是需要时间的,而我们需要的就是抢时间,以更短的时间获得信息。但是单线程的效率太慢了,还不如使用多线程。


  多线程虽然能解决单线程解决不了的事情,但是它也会给你带来额外的问题。比如成千上万甚至上百万的线程时候,你系统就会出现响应延迟、卡机、甚至直接卡死的情况。为什么会出现这样的原因呢?


  这是因为为每个请求创建一个新线程的开销很大:在创建和销毁线程上花费的时间和消耗的系统资源要比花在处理实际的用户请求的时间和资源更多。


单线程没效率?多线程效果更佳,常用的几种线程池


  除了创建和销毁线程的开销之外,活动的线程也消耗系统资源。机灵代理工程师表示,在一个JVM里创建太多的线程可能会导致系统由于过度消耗内存而用完内存或“切换过度”。所以为了防止资源不足,服务器应用程序需要一些办法来限制任何给定时刻处理的请求数目。而线程池为线程生命周期开销问题和资源不足问题提供了解决方案。常用的几种线程池:


  1.ScheduledThreadPool


  周期线程池,创建一个定长线程池,支持定时及周期性任务执行,通过过schedule方法可以设置任务的周期执行。


  2.newFixedThreadPool


  定长线程池,一个有指定的线程数的线程池,有核心的线程,里面有固定的线程数量,响应的速度快。正规的并发线程,多用于服务器。固定的线程数由系统资源设置。核心线程是没有超时机制的,队列大小没有限制,除非线程池关闭了核心线程才会被回收。


  3.newSingleThreadExecutor


  单任务线程池,创建一个单线程化的线程池,它只会用唯一的工作线程来执行任务,保证所有任务按照指定顺序(FIFO, LIFO, 优先级)执行,每次任务到来后都会进入阻塞队列,然后按指定顺序执行。


  4.newCachedThreadPool


  可缓冲线程池,只有非核心线程,最大线程数很大,每新来一个任务,当没有空余线程的时候就会重新创建一个线程,这边有一个超时机制,当空闲的线程超过60s内没有用到的话,就会被回收,它可以一定程序减少频繁创建/销毁线程,减少系统开销,适用于执行时间短并且数量多的任务场景。


  不同的线程池,是有效果的差别的,对于线程池的使用,若是需要抓取大量的数据,单个线程无法满足需求,那么使用多线程是必然的选择,而使用线程池能够起到优化的效果,让爬虫爬取变得更加的简单,配合代理IP使用,效果更佳。


相关文章内容简介
推荐阅读
  • 16 2019-09
    代理IP除了能够隐藏地址 还有什么用途?

    可能有些对代理IP不太清楚的人会疑惑,平时不用代理IP也能够好好上网啊,也没见出什么事情。的确是,对于只有普通上网浏览、看看视频的网友来说,普通的网络端就能够满足你绝大部分的

  • 21 2020-02
    ip代理的类型都有什么

    更改ip地址的方法有很多,其中最简单的方法就是利用软件自动更改ip地址,其中的佼佼者就是机灵代理了,那么你知道更改ip地址时都可以采用哪些类型吗?不同的ip代理类型有着不一样的用途

  • 26 2019-03
    安全代理服务器的软件特色有哪些?

    现在安全代理服务器作用软件在大众看来是必不可少的一个软件,他们可以帮助使用者很多事情,下面就对安全带里服务器的特色软件有哪些?做一些相对应的介绍,这种软件在一定程度上是可

  • 19 2019-11
    代理IP的独享IP池

    现在大家对代理IP的质量要求是越来越高了,不仅仅看不上免费代理IP的渣质量,越多越多人愿意花更多的钱来选择质量更好更稳定的代理IP模式。

  • 04 2020-02
    代理IP是爬虫中必不可少的

    我们在爬虫的时候,经常会出现爬虫正常运行,也在正常抓取数据,但可能下一秒就出现错误。这时候如果再打开网页查看,可能就会出现IP访问频繁的提示。出现这种情况,就是网站采取了反

  • 23 2019-03
    账号注册有限制?可以用代理IP突破限制

    我们平常看到的一些网站,其实很多都是只能注册一个账号的,比如说限制一个手机号只能注册一个账号,或者一个邮箱只能注册一个账号,对于这账号注册,我们怎么突破才能进行多账号的注

在线咨询
大客户经理
大客户经理
1829380381
13316264505

大客户经理微信

微信公众号

微信公众号

回到顶部