您的位置:首页 > 新闻资讯 >文章内容
添加代理ip,爬虫是否能绕过访问
来源:互联网 作者:admin 时间:2019-04-05 17:02:00

在使用爬虫时,有没有遇到什么问题?比如说,刚开始爬,马上就被封了,还不知道原因。遇到这个问题,一般是什么原因呢?


在使用python对网页进行多次快速爬取的时候,访问次数过于频繁,服务器不会考虑User-Agent的信息,会直接把你视为爬虫,从而过滤掉,拒绝你的访问,在这种时候就需要设置代理,我们可以给proxies属性设置一个代理的IP地址,代码如下:


 import requests
 from lxml import etree
 url = ""
 headers = {"User-Agent": "Mozilla/ (Windows NT 10.0; Win64; x64) AppleWebKit/ (KHTML, like Gecko) Chrome/70.0.3538.102 Safari/ OPR/57.0.3098.116", }
 pro = {
 # 'https': '', #四川省成都市 电信
 'https': '', #湖北省武汉市 电信
 }
 try:
 response = (url, headers=headers, proxies=pro)
 html_str = ()
 # print(html_str)
 html = (html_str)
 message = ("//div[@class='well']//p/text()")
 ip = ("//div[@class='well']//p/code/text()")
 eng = ("//div[@class='well']/p/text()")
 print(message[0]+ip[0])
 print(message[1]+ip[1])
 print(eng[2])
 except requests.exceptions.ProxyError as e:
 print("当前代理异常")
 except:
 print("当前请求异常")

在上面的代码中,调用requests库,对一个IP地址查询网页进行访问,随后使用lxml库的xpath对网页进行分析提取,返回用户访问此网页时自己的IP地址,如果代理设置成功,则会返回你的信息和IP地址,如下:


添加代理ip,爬虫是否能绕过访问


如果代理失败则会返回异常,在代码中使用了捕获异常,则会返回设置的提示信息,"当前代理异常",如果不是代理的错误则是"当前请求异常"


添加代理ip,爬虫是否能绕过访问


PS:免费的代理不是很稳定,在确认代码无误后,如果仍然返回异常,可尝试更换代理IP...


以上就是遇到封IP之后,爬虫应对的方法,也就是说可以设置个代理ip,绕过进行访问的。免费代理不好用,可以找付费的代理,像机灵代理也是不错的。

相关文章内容简介
推荐阅读
  • 28 2019-05
    爬虫代理IP池的维护

    爬虫代理IP池的维护要注意什么?一般上,如果需要使用大量的IP,这IP地址只能是动态的IP地址,否则无法满足需求,比较现在IP资源稀缺。代理IP池中的这些动态IP的有效时间长短不一,有些只

  • 11 2019-03
    Python爬虫使用代理IP可以无限采集吗?

    Python爬虫要想大施拳脚,想必是需要一些辅助的工具,我们最常见到的工具有代理IP,爬虫有了代理IP可以如虎添翼,大大加快工作的效率,因此代理IP对于爬虫来说是一款必备的工具。

  • 12 2019-04
    没有客户?可以用代理IP去爬取用户信息吗?

    没有客户?可以用代理IP去爬取用户信息吗?有时候大家总会接到各类的推销电话,我们的信息是如何泄露出去的呢?这些业务人员是怎么拿到我们的电话信息?下面就以装修行业来说下:

  • 24 2019-08
    3招教你挑对代理IP

    互联网时代,越来越多人在用代理IP这项服务,那么面对市面上那么多的代理IP商,精明的消费者应该怎么进行筛选,我们要看什么方面来进行判断呢?

  • 09 2019-01
    国内可用的http代理服务器

    代理服务器本来只是介于浏览器和Web服务器之间的一台服务器,还可以说是一个中间商,主要的功能就是代理网络用户去获得网络信息。

  • 23 2019-05
    租用最新的https代理

    租用最新的https代理,其实在国内的https代理ip平台的市场上,你们只要稍加了解就会发现一个共同的问题,那就是收费非常高,因此平台并不适合大众使用。那究竟有没有解决这个问题的方法呢

在线客服
大客户VIP渠道
点击这里给我发消息
讨论QQ群
HTTP代理IP爬虫
客服电话
13318873961