您的位置:首页 > 新闻资讯 >文章内容
爬虫的请求头应该怎写不会被发现?
来源:互联网 作者:admin 时间:2019-02-20 17:30:24

    网站的反爬虫存在于整个爬虫获取数据流程里面,爬虫首先会遇到请求的问题,如果爬虫不伪装浏览器发送请求,那么就会被网站检测到爬虫,从而禁止访问,拒绝返回信息。那么爬虫的请求头应该怎写呢?


    当我们使用浏览器访问网站的时候,浏览器会发送一小段信息给网站,我们称为RequestHeaders,在这个头部信息里面包含了本次访问的一些信息,例如编码方式,当前地址,将要访问的地址等等。这些信息一般来说是不必要的,但是现在很多网站会把这些信息利用起来。其中最常被用到的一个信息,叫做“User-Agent”。网站可以通过User-Agent来判断用户是使用什么浏览器访问。不同浏览器的User-Agent是不一样的,但都有遵循一定的规则。


    例如,我们在windows上面的Chrome浏览器,它的User-Agent是:


    但是如果我们使用Python的Requests直接访问网站,除了网址不提供其他的信息,那么网站收到的User-Agent是空。这个时候网站就知道我们不是使用浏览器访问的,于是它就可以拒绝我们的访问。


    例如:


    没有User-Agent的情况


爬虫的请求头应该怎写不会被发现?


    有User-Agent的情况


爬虫的请求头应该怎写不会被发现?


    如何获取网站的User-Agent呢?请打开Chrome,任意打开一个网站,然后右键,“检查”打开开发者工具,定位到“Network”选项卡,并刷新网页,如下图所示:


爬虫的请求头应该怎写不会被发现?


    在左下角会出现当前网页加载的所有元素。随便点一个元素,于是在右下角会出现对当前元素的请求信息。在里面找到RequestHeaders这一项,里面的内容即为我们需要的内容。


    不同的网站,RequestHeaders是不同的


    提示:requests的get方法,post方法,Session模块的get方法,post方法,都支持自定义Headers,参数名为headers,它可以接收字典作为参数。


    我们可以通过字典来设定Headers,例如:


爬虫的请求头应该怎写不会被发现?


    其实网站通过检查User-Agent是一种最简单的反爬虫机制,而我们爬虫也可以通过设定RequestHeaders中的User-Agent来突破这种机制。当时如果获取信息都使用同一种User-Agent,这也太反常了,没有那么巧的事情,这也可能会被检测到,从而被封。因此,即使使用User-Agent能突破限制,也是需要更换不同User-Agent来使用,可以收集不同的浏览器User-Agent,同浏览器不同本版的User-Agent也是不一样,都可以收集轮流使用。


相关文章内容简介
推荐阅读
  • 22 2019-10
    线程IP池如何理解?

    线程IP池是什么?使用代理IP的时候,我们需要了解一些相关的概念,那么,线程IP如何去理解呢?下面我们分3个步骤来进行解读。

  • 23 2019-11
    如何用API提取代理IP?

    代理IP的获取现在已经变得非常简单了,而且随着优质的代理服务商数量的增加,大家的代理IP使用环境也在不断改良。今天我们来看看是如何通过API提取代理IP使用的。

  • 29 2019-05
    哪些行业需要更换IP地址刷流量

    刷流量这个词,估计大家也没有少听了,通常是更换IP地址刷流量次数达到刷流量的目的,这更换IP地址可以使用代理IP的,例如机灵代理这些。很多行业都通过刷流量的方式获取好的效果,那么

  • 26 2019-03
    http代理服务器技术解析

    现在大部分的http代理服务器都是云服务器,而且它是结合虚拟技术中的一大变革,而且它在一定程度上解决了传统服务器的成本高的问题,最重要的是像现在的服务器大部分在运行的性能以及

  • 19 2019-06
    用代理IP更换IP刷量算数吗?

    用代理IP更换IP刷量算数吗?网络时代,很多东西都要看数据的,而这些数据可以利用一些工具来增加,因此如果文章、视频之类的要想增加浏览量,这是很容易的,但是这些使用工具增加的数

  • 04 2019-03
    Python和Java写爬虫的优缺点

    目前大家使用得比较多的写爬虫语言是Python,也有些是使用Java写的,对于这两种编程语言,它们有什么优缺点呢?我们来简单的了解下关于Python和Java写爬虫的优缺点。

在线咨询
大客户经理
大客户经理
1829380381
13316264505

大客户经理微信

微信公众号

微信公众号

回到顶部