您的位置:首页 > 新闻资讯 >文章内容
使用代理IP与User Agent实现隐藏
来源:互联网 作者:admin 时间:2019-09-07 10:19:16

  要想爬虫工作顺利开展,我们需要使用大量的IP,并且要对IP地址进行一定的隐藏,这样才能够减少网站封杀我们IP的几率。所以我们需要利用User Agent和代理IP来进行身份隐藏。


使用代理IP与User Agent实现隐藏


  为何使用IP代理?


  如果我们利用一个爬虫程序在网站爬取东西,一个固定IP的访问频率就会很高,这不符合人为操作的标准,因为人操作不可能在几ms内,进行如此频繁的访问。所以一些网站会设置一个IP访问频率的阈值,如果一个IP访问频率超过这个阈值,说明这个不是人在访问,而是一个爬虫程序。


  一般步骤说明:


  一个很简单的解决办法就是设置延时,但是这显然不符合爬虫快速爬取信息的目的,所以另一种更好的方法就是使用IP代理。使用代理的步骤:


  (1)调用urlib.request.ProxyHandler(),proxies参数为一个字典。


  (2)创建Opener(类似于urlopen)


  (3)安装Opener


  使用install_opener方法之后,会将程序默认的urlopen方法替换掉。也就是说,如果使用install_opener之后,在该文件中,再次调用urlopen会使用自己创建好的opener。如果不想替换掉,只是想临时使用一下,可以使用opener.open(url),这样就不会对程序默认的urlopen有影响。


  代理IP选取:


  现在网上代理IP服务商有很多,也有免费的代理IP,不过大家在挑选的时候要注意IP的安全性,如果项目需要比较多的有效IP,建议用匿名程度的高的代理方式。


  为何要设置User Agent?


  有一些网站不喜欢被爬虫程序访问,所以会检测连接对象,如果是爬虫程序,也就是非人点击访问,它就会不让你继续访问,所以为了要让程序可以正常运行,需要隐藏自己的爬虫程序的身份。此时,我们就可以通过设置User Agent的来达到隐藏身份的目的,User Agent的中文名为用户代理,简称UA。


  User Agent存放于Headers中,服务器就是通过查看Headers中的User Agent来判断是谁在访问。在Python中,如果不设置User Agent,程序将使用默认的参数,那么这个User Agent就会有Python的字样,如果服务器检查User Agent,那么没有设置User Agent的Python程序将无法正常访问网站。


  Python允许我们修改这个User Agent来模拟浏览器访问,它的强大毋庸置疑。


  常见的User Agent分享:


  1、Android


  Mozilla/5.0 (Linux; Android 4.1.1; Nexus 7 Build/JRO03D) AppleWebKit/535.19 (KHTML, like Gecko) Chrome/18.0.1025.166 Safari/535.19

  Mozilla/5.0 (Linux; U; Android 4.0.4; en-gb; GT-I9300 Build/IMM76D) AppleWebKit/534.30 (KHTML, like Gecko) Version/4.0 Mobile Safari/534.30

  Mozilla/5.0 (Linux; U; Android 2.2; en-gb; GT-P1000 Build/FROYO) AppleWebKit/533.1 (KHTML, like Gecko) Version/4.0 Mobile Safari/533.1


  2、Firefox


  Mozilla/5.0 (Windows NT 6.2; WOW64; rv:21.0) Gecko/20100101 Firefox/21.0

  Mozilla/5.0 (Android; Mobile; rv:14.0) Gecko/14.0 Firefox/14.0


  3、Google Chrome


  Mozilla/5.0 (Windows NT 6.2; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/27.0.1453.94 Safari/537.36

  Mozilla/5.0 (Linux; Android 4.0.4; Galaxy Nexus Build/IMM76B) AppleWebKit/535.19 (KHTML, like Gecko) Chrome/18.0.1025.133 Mobile Safari/535.19


  4、iOS


  Mozilla/5.0 (iPad; CPU OS 5_0 like Mac OS X) AppleWebKit/534.46 (KHTML, like Gecko) Version/5.1 Mobile/9A334 Safari/7534.48.3

  Mozilla/5.0 (iPod; U; CPU like Mac OS X; en) AppleWebKit/420.1 (KHTML, like Gecko) Version/3.0 Mobile/3A101a Safari/419.3


  以上分享的4种方式直接复制就可以使用。


相关文章内容简介
推荐阅读
  • 10 2019-04
    获取网上高匿代理IP代码分享

    获取网上高匿代理IP代码分享:当你需要在同一个网站爬取大量信息的时候,通常你会遇到各种各种各样的阻挠,其中一种就是IP被封,这时代理IP就成了我们不二的选择,我们下面的IP来源于国

  • 10 2019-05
    python爬虫必备工具要数IP代理

    python爬虫必备工具要数IP代理,这是突破IP限制的效果最好的工具了,如果没有使用这个工具,只能降低抓取的速度,这样是非常影响效率的。

  • 19 2020-08
    IP地址应该如何快速的更改

    对于一些想要申请注册多个账户,但却因为无法修改IP地址而烦恼的用户,怎么修改自己的IP地址成为了这类人最想解决的问题。那么,IP地址应该如何快速的更改呢?

  • 31 2019-05
    账号IP地址定位异常被封的几率大

    账号IP地址定位异常被封的几率大,这是很常见的事情。我们需要连接网络,这是一定要获取到IP地址才能连接到网络的。

  • 19 2019-02
    HTTP协议功能

    HTTP协议是用于从WWW服务器传输超文本到本地浏览器的传输协议。它可以使浏览器更加高效,使网络传输减少。

  • 07 2020-01
    高匿代理ip​好在哪儿?

    高匿代理ip​好在哪儿?很多爬虫爱好者在进行抓取数据的时候,首推使用的代理IP就是高匿名代理ip,那么高匿名代理IP的实现原理是什么?使用高匿名代理ip真的更好吗?

在线咨询
大客户经理
大客户经理
1829380381
13316264505

大客户经理微信

微信公众号

微信公众号

回到顶部