您的位置:首页 > 新闻资讯 >文章内容
使用代理IP与User Agent实现隐藏
来源:互联网 作者:admin 时间:2019-09-07 10:19:16

  要想爬虫工作顺利开展,我们需要使用大量的IP,并且要对IP地址进行一定的隐藏,这样才能够减少网站封杀我们IP的几率。所以我们需要利用User Agent和代理IP来进行身份隐藏。


使用代理IP与User Agent实现隐藏


  为何使用IP代理?


  如果我们利用一个爬虫程序在网站爬取东西,一个固定IP的访问频率就会很高,这不符合人为操作的标准,因为人操作不可能在几ms内,进行如此频繁的访问。所以一些网站会设置一个IP访问频率的阈值,如果一个IP访问频率超过这个阈值,说明这个不是人在访问,而是一个爬虫程序。


  一般步骤说明:


  一个很简单的解决办法就是设置延时,但是这显然不符合爬虫快速爬取信息的目的,所以另一种更好的方法就是使用IP代理。使用代理的步骤:


  (1)调用urlib.request.ProxyHandler(),proxies参数为一个字典。


  (2)创建Opener(类似于urlopen)


  (3)安装Opener


  使用install_opener方法之后,会将程序默认的urlopen方法替换掉。也就是说,如果使用install_opener之后,在该文件中,再次调用urlopen会使用自己创建好的opener。如果不想替换掉,只是想临时使用一下,可以使用opener.open(url),这样就不会对程序默认的urlopen有影响。


  代理IP选取:


  现在网上代理IP服务商有很多,也有免费的代理IP,不过大家在挑选的时候要注意IP的安全性,如果项目需要比较多的有效IP,建议用匿名程度的高的代理方式。


  为何要设置User Agent?


  有一些网站不喜欢被爬虫程序访问,所以会检测连接对象,如果是爬虫程序,也就是非人点击访问,它就会不让你继续访问,所以为了要让程序可以正常运行,需要隐藏自己的爬虫程序的身份。此时,我们就可以通过设置User Agent的来达到隐藏身份的目的,User Agent的中文名为用户代理,简称UA。


  User Agent存放于Headers中,服务器就是通过查看Headers中的User Agent来判断是谁在访问。在Python中,如果不设置User Agent,程序将使用默认的参数,那么这个User Agent就会有Python的字样,如果服务器检查User Agent,那么没有设置User Agent的Python程序将无法正常访问网站。


  Python允许我们修改这个User Agent来模拟浏览器访问,它的强大毋庸置疑。


  常见的User Agent分享:


  1、Android


  Mozilla/5.0 (Linux; Android 4.1.1; Nexus 7 Build/JRO03D) AppleWebKit/535.19 (KHTML, like Gecko) Chrome/18.0.1025.166 Safari/535.19

  Mozilla/5.0 (Linux; U; Android 4.0.4; en-gb; GT-I9300 Build/IMM76D) AppleWebKit/534.30 (KHTML, like Gecko) Version/4.0 Mobile Safari/534.30

  Mozilla/5.0 (Linux; U; Android 2.2; en-gb; GT-P1000 Build/FROYO) AppleWebKit/533.1 (KHTML, like Gecko) Version/4.0 Mobile Safari/533.1


  2、Firefox


  Mozilla/5.0 (Windows NT 6.2; WOW64; rv:21.0) Gecko/20100101 Firefox/21.0

  Mozilla/5.0 (Android; Mobile; rv:14.0) Gecko/14.0 Firefox/14.0


  3、Google Chrome


  Mozilla/5.0 (Windows NT 6.2; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/27.0.1453.94 Safari/537.36

  Mozilla/5.0 (Linux; Android 4.0.4; Galaxy Nexus Build/IMM76B) AppleWebKit/535.19 (KHTML, like Gecko) Chrome/18.0.1025.133 Mobile Safari/535.19


  4、iOS


  Mozilla/5.0 (iPad; CPU OS 5_0 like Mac OS X) AppleWebKit/534.46 (KHTML, like Gecko) Version/5.1 Mobile/9A334 Safari/7534.48.3

  Mozilla/5.0 (iPod; U; CPU like Mac OS X; en) AppleWebKit/420.1 (KHTML, like Gecko) Version/3.0 Mobile/3A101a Safari/419.3


  以上分享的4种方式直接复制就可以使用。


相关文章内容简介
推荐阅读
  • 25 2020-12
    动态代理IP有什么作用

    随着互联网时代的到来,许多网民总是因为工作需要而使用动态IP地址,否则往往会受到网站的限制。因为重复操作容易造成IP限制,比如我们平时发帖,多发帖子提示立即删除帖子,或者继续

  • 03 2020-10
    一手私密代理IP的可用率

    普通代理IP是从互联网上扫描来的“万人骑”IP,这一类IP的网络质量很一般,由于我们验证服务器的网络环境跟您的网络环境不是100相同,所以我们不能保证这里的普通代理IP在您那边100能用,

  • 16 2019-12
    能用ip代理​给直播刷人气吗?

    能用ip代理​给直播刷人气吗?直播行业在十多年前就已经出现,不过当时因为技术限制还不成熟,但是前几年开始直播行业出现了爆发性的增长,甚至有许多人在直播行业当中一夜暴富实现财富

  • 12 2019-06
    QQ设置HTTP代理并测试有效性

    QQ设置HTTP代理并测试有效性,对于代理的使用,一些新手是不太懂的,如果一些软件需要设置HTTP代理使用,这改怎么设置呢?我们来看看:

  • 25 2020-11
    代理IP软件有什么好处呢

    代理IP软件是很多web工作者必备的工具,比如在网上推广、,注册、爬虫。代理IP很受很多用户的欢迎,但是很多用户并不太了解。那么,代理IP软件有什么好处呢?

  • 26 2019-06
    有代理IP就能搞定反爬虫了吗

    有代理IP就能搞定反爬虫了吗?我们知道,现在的网站都有反爬策略,是为了防止恶意的机器人给服务器造成过大的负荷影响网站的正常运营。例如:短时间内访问频率过快、短时间内访问次数

在线咨询
大客户经理
大客户经理
13316264505

大客户经理微信

微信公众号

微信公众号

回到顶部