您的位置:首页 > 新闻资讯 >文章内容
爬虫偶尔遇到301和302状态码,这是什么问题?
来源:互联网 作者:admin 时间:2019-04-08 17:02:00

  爬虫运行中是经常会遇到一些问题的,比如说,爬虫偶尔遇到301和302状态码,这是什么问题?对于这些问题,是如何解决的呢?


  其实301和302状态码都表示重定向,就是说浏览器在拿到服务器返回的这个状态码后会自动跳转到一个新的URL地址,这个地址可以从响应的Location首部中获取(用户看到的效果就是他输入的地址A瞬间变成了另一个地址B)。


  不过301和302状态码不太一样:


  301重定向/跳转一般,表示本网页永久性转移到另一个地址。301是永久性转移(Permanently Moved),SEO常用的招式,会把旧页面的PR等信息转移到新页面。


  302重定向表示临时性转移(Temporarily Moved ),当一个网页URL需要短期变化时使用。


爬虫偶尔遇到301和302状态码,这是什么问题?


  301和302状态码的区别:


  他们的不同在于,301表示旧地址A的资源已经被永久地移除了(这个资源不可访问了),搜索引擎在抓取新内容的同时也将旧的网址交换为重定向之后的网址;302表示旧地址A的资源还在(仍然可以访问),这个重定向只是临时地从旧地址A跳转到地址B,搜索引擎会抓取新的内容而保存旧的网址。


  通俗来讲,当一个网站或者网页24—48小时内临时移动到一个新的位置,这时候就要进行302跳转,打个比方说,我有一套房子,但是最近走亲戚去亲戚家住了,过两天我还回来的。而使用301跳转的场景就是之前的网站因为某种原因需要移除掉,然后要到新的地址访问,是永久性的,就比如你的那套房子其实是租的,现在租期到了,你又在另一个地方找到了房子,之前租的房子不住了。


  为什么要进行重定向:


  一般是由于网站调整(如改变网页目录结构);网页被移到一个新地址;网页扩展名改变(如应用需要把.php改成.Html或.shtml)。


  这种情况下,如果不做重定向,则用户收藏夹或搜索引擎数据库中旧地址只能让访问客户得到一个404页面错误信息,访问流量白白丧失;再者某些注册了多个域名的网站,也需要通过重定向让访问这些域名的用户自动跳转到主站点等。


  综上可知,爬虫偶尔遇到301和302状态码时不要惊慌,代理IP并没有失效,爬虫的身份也并没有被发现,只是这内容被转移了,还是可以继续爬取的。


相关文章内容简介
推荐阅读
  • 03 2020-11
    利用代理ip爬虫抓取数据

    要了解一个领域、一个行业,最为直接的方法是通过数据来进行衡量,那么网络数据要怎么梳理呢?利用网络爬虫爬取,便是一个好方法。

  • 29 2019-04
    构建代理ip池的IP来源途径

    构建代理ip池的IP来源途径有哪些?使用爬虫程序都免不了出现问题的,有时候爬得正高兴呢,出现了一连串错误信息,查看后发现因为爬取太过频繁,被网站封了ip,那时起就有了构建代理ip池

  • 11 2019-05
    通过API抓取数据还需要IP代理吗?

    通过API抓取数据还需要IP代理吗?对于数据抓取,我们可以尝试使用网站开放的API,获取网站数据,了解除网络爬虫外获取高质量网站数据的新途径,并不需要使用到IP代理也可以的。不过前提

  • 29 2020-09
    为什么要用HTTP代理IP

    代理IP是什么?对于一般人来说,代理IP可能一文不值,根本不知道它是什么,用来做什么;而对于从事互联网工作的人来说,它好比狙击步枪的瞄准镜,有它没它差距非常大。下面跟小编简单

  • 12 2019-07
    高匿代理ip去刷单靠谱吗?

    高匿代理ip去刷单靠谱吗?由于店铺访问流量是要看不同ip来源,于是很多商家刷数据都是使用代理ip的,不停换ip来增加数据。

  • 29 2019-01
    如何查询我们的IP地址?使用代理可以更换大量的IP吗?

    一般上网是不需要知道所使用的是什么IP地址,但有时候我们需要知道上网的IP地址,进行设置或者其他一些原因。特别是外网IP地址,大家更是不知道,因为许多人使用的是局域网,那么如何查

在线咨询
大客户经理
大客户经理
1829380381
13316264505

大客户经理微信

微信公众号

微信公众号

回到顶部