您的位置:首页 > 新闻资讯 >文章内容
爬虫配代理IP和UA爬取顺利,绕过反爬虫机制
来源:互联网 作者:admin 时间:2019-04-08 17:05:00

  网上对于爬虫采集的教程或者是一些讨论都比较多的,如果我们要去爬取一个网站的信息,大家可能最先想的是对方有什么反爬虫机制。是的,这个问题是非常关键的,而且还是必须要解决的。


  就像爬取知乎,如果想大量并发的话的就必须配置最新代理IP。因为知乎的反爬策略就是并发过大就会限制你的爬虫,页面会自动重定向到验证码页面。所以防止你的爬虫被禁,设置个代理和UA还是很有必要的。


  首先呢,如果有钱的话建议自己去购买个比较高级的代理IP,这种代理响应速度比一般的要快很多。知乎对爬虫限制相对来说没有那么严格,所以一般的IP也没啥用(当然我说的单台),如果你部署多台的话有个代理IP是很爽的,方便快捷。


  找代理IP,大家自行百度,我就不多说了,基本每个代理都有免费的额度。如,机灵代理,黑洞HTTP等等。


  先把UA池配了,爬虫应该UA池是必须配的。


  在中加入下面的代码:


爬虫配代理IP和UA爬取顺利,绕过反爬虫机制


  UA池,百度一搜一大堆。


  在中间件中写入下面的代码。使用代理IP池的方法可以去GitHub上搜proxy,很多。


爬虫配代理IP和UA爬取顺利,绕过反爬虫机制

爬虫配代理IP和UA爬取顺利,绕过反爬虫机制


  在新建一个py文件放入下面的代码:


爬虫配代理IP和UA爬取顺利,绕过反爬虫机制


  到这配置基本就结束了。在中修改下面的代码:


爬虫配代理IP和UA爬取顺利,绕过反爬虫机制


  完全结束,启动项目就会发现请求是从代理IP发出的。如果配合scrapy-redis配置多台应该效率还是可以的。


  基本上,爬虫都是要配代理IP和UA的,否则很难可以爬取的,因为对方拒绝如此粗暴的爬取,这会给服务器带来影响,可能还会损害自己的利益,当然是禁止的。不过你有张良计,我有过墙梯,爬虫总是能找到方法来解决的。


相关文章内容简介
推荐阅读
  • 23 2019-02
    使用HTTP代理IP突破网站限制IP投票次数

    ​很多朋友总是在朋友圈拉人投票,谁的朋友多就能获得更多的票数,至于本身实力是否能得第一已经不太重要。

  • 15 2019-06
    国内代理ip没有用

    网上有些人认为,国内代理ip没有用,还不如使用国外代理ip呢?这种说法是对的吗?

  • 22 2019-03
    用代理IP来隐藏自己的IP地址,这隐藏的效果怎么样?

    代理IP可以做什么?大家最经常使用代理IP来隐藏自己的IP地址,这隐藏的效果怎么样呢?哪个代理IP的使用效果会相对好些?

  • 21 2019-05
    代理服务器不同类型用途不同

    代理服务器不同类型用途不同,其实代理其实分很多种,不同的代理,其作用或者是使用的场景可能是不一样的,不会混为一谈,那么这些代理都有什么不同呢?

  • 01 2019-09
    代理IP知识:多线程如何调用API获取IP?

    想要无限制调用API怎么办?其实方法可以很简单,只需要在本地搭建一个IP池就可以了,通过使用代理IP获得IP,再存入本地IP池,就可以通过本地API多线程获取,下面来看看具体步骤。

  • 28 2020-03
    爬虫可以不用ip代理吗

    现在网络数据的获得,主要是通过网络爬虫技术进行抓取的,这种技术的好处就在于能够简单快速的将数据进行爬取,不用耗费太多的人力。

在线咨询
大客户经理
大客户经理
1829380381
13316264505

大客户经理微信

微信公众号

微信公众号

回到顶部