您的位置:首页 > 新闻资讯 >文章内容
爬虫用Requests设置代理IP的方法
来源:互联网 作者:admin 时间:2019-03-21 17:48:24

  使用python中的包请求网站时,需要设置代理IP使用,否则无法正常获取到信息,那么爬虫用Requests设置代理IP的方法是怎样的?


  在爬虫中往往需要使用多个代理,那有如何构造呢,这里主要两种方法,一种是使用免费的多个IP,一种是使用付费的IP代理,免费的IP往往效果不好,那么可以搭建IP代理池,但对新手来说搞一个IP代理池成本太高,如果只是个人平时玩玩爬虫,完全可以考虑付费IP,几块钱买个几小时动态IP,多数情况下都足够爬一个网站了。


  这里推荐一个付费代理--代理精灵,最近使用了一下,效果非常不错,所以没有必要为了省一点钱,而费劲地去搞IP代理池。


  首次使用的话,可以选择购买一个小时试用下,点击生成代理信息作为凭证加入到代码中。


  将信息复制到官方提供的Requests代码中,运行来查看一下代理IP的效果:


爬虫用Requests设置代理IP的方法


  可以看到每次请求都会使用不同的IP,是不是很简单?比搞IP代理池省事多了。


爬虫用Requests设置代理IP的方法


  如果一定要使用免费代理IP,可以是可以的,使用到的资源:


  1.获取免费代理的网站


  2.获取当前访问的IP地址


  我们通过访问网站,获取当前访问使用的IP地址,来验证我们的代理是否成功


  实现代码:


爬虫用Requests设置代理IP的方法


  上文主要是介绍使用python中的requests包请求网站,设置代理IP的方法,仅供参考。如果爬虫项目不大、追求稳定且不差钱的话,建议直接上付费代理,比如找代理精灵的。


相关文章内容简介
推荐阅读
  • 04 2019-10
    curl如何实现代理并访问网站?

    PHP如何用CURL方式去使用代理,以及如何去进行网站访问?你是否刚好需要应用到这个相关的知识点呢?下面机灵代理来给大家带来详细的教程解说。

  • 06 2020-02
    不同地区ip怎么切换

    代理IP是用于切换不同IP的软件,不同的代理IP可以切换不同区域的IP,有些还可以切换全国不同城市的IP。如果所实用的IP区域有要求,代理IP是非常合适的工具。

  • 03 2019-06
    ip代理服务器软件可以根据什么提取

    ip代理服务器软件可以根据什么提取?一般的代理商家,每天能提供http,https,socks5代理能有多少?是稳定代理吗?可以根据代理国家,类别,匿名性提取吗?

  • 02 2019-04
    刚换上代理IP怎么打不开了?

    日常生活中,经常会遇到突发的事情,工作也不例外。有时候心情美美哒,突然代理IP罢工了,刚换上代理IP怎么打不开了呢?难道会员到期了?还是商家服务器崩溃了?

  • 11 2019-11
    公网IP与内网IP

    网络实现了世界各地的互通互联,是一个非常高效的信息传输平台,我们将信息从一端发送到另外一端,是通过网络协议来实现的。机灵代理接下来要给大家介绍的就是网络实现传输的构成。

  • 16 2019-12
    能用ip代理​给直播刷人气吗?

    能用ip代理​给直播刷人气吗?直播行业在十多年前就已经出现,不过当时因为技术限制还不成熟,但是前几年开始直播行业出现了爆发性的增长,甚至有许多人在直播行业当中一夜暴富实现财富

在线咨询
大客户经理
大客户经理
1829380381
13316264505

大客户经理微信

微信公众号

微信公众号

回到顶部