您的位置:首页 > 新闻资讯 >文章内容
添加代理ip,爬虫是否能绕过访问
来源:互联网 作者:admin 时间:2019-04-05 17:02:00

在使用爬虫时,有没有遇到什么问题?比如说,刚开始爬,马上就被封了,还不知道原因。遇到这个问题,一般是什么原因呢?


在使用python对网页进行多次快速爬取的时候,访问次数过于频繁,服务器不会考虑User-Agent的信息,会直接把你视为爬虫,从而过滤掉,拒绝你的访问,在这种时候就需要设置代理,我们可以给proxies属性设置一个代理的IP地址,代码如下:


 import requests
 from lxml import etree
 url = ""
 headers = {"User-Agent": "Mozilla/ (Windows NT 10.0; Win64; x64) AppleWebKit/ (KHTML, like Gecko) Chrome/70.0.3538.102 Safari/ OPR/57.0.3098.116", }
 pro = {
 # 'https': '', #四川省成都市 电信
 'https': '', #湖北省武汉市 电信
 }
 try:
 response = (url, headers=headers, proxies=pro)
 html_str = ()
 # print(html_str)
 html = (html_str)
 message = ("//div[@class='well']//p/text()")
 ip = ("//div[@class='well']//p/code/text()")
 eng = ("//div[@class='well']/p/text()")
 print(message[0]+ip[0])
 print(message[1]+ip[1])
 print(eng[2])
 except requests.exceptions.ProxyError as e:
 print("当前代理异常")
 except:
 print("当前请求异常")

在上面的代码中,调用requests库,对一个IP地址查询网页进行访问,随后使用lxml库的xpath对网页进行分析提取,返回用户访问此网页时自己的IP地址,如果代理设置成功,则会返回你的信息和IP地址,如下:


添加代理ip,爬虫是否能绕过访问


如果代理失败则会返回异常,在代码中使用了捕获异常,则会返回设置的提示信息,"当前代理异常",如果不是代理的错误则是"当前请求异常"


添加代理ip,爬虫是否能绕过访问


PS:免费的代理不是很稳定,在确认代码无误后,如果仍然返回异常,可尝试更换代理IP...


以上就是遇到封IP之后,爬虫应对的方法,也就是说可以设置个代理ip,绕过进行访问的。免费代理不好用,可以找付费的代理,像机灵代理也是不错的。

相关文章内容简介
推荐阅读
  • 30 2019-10
    苹果手机能用代理IP吗?

    有时候我们对某个网站访问得比较频繁,会发现我们无法进入这个网站,这种时候,就是换IP软件派上用场的时候了。电脑可以用代理IP,手机也可以吗?

  • 24 2019-06
    遇到封IP用动态IP马上解决

    遇到封IP用动态IP马上解决,因为现在用户的人多了,每个的网络访问量是非常大的,很多网站都对IP进行了限制,增加网站的防御性,预防遭遇攻击。但是这对一些网络推广之外的工作人员来讲

  • 03 2019-09
    用代理IP解决爬虫被禁

    爬虫IP被禁一直让爬虫工作者非常头痛,爬虫与反爬虫一直在斗智斗勇。反爬技术一改良,爬虫的新解决方法就会被研究出来。代理IP就是其中用得比较多的一种,下面来看看还有哪些方法可以

  • 02 2019-09
    代理IP哪家好?选IP代理要看什么因素?

      海量的代理IP商,到底哪家实力强呢?消费者在做选择的时候,又应该去看IP代理的什么因素才能够鉴别出真材实料?万一选到了外强中干的代理,不仅浪费钱,还影响了使用。下面由机灵代理

  • 18 2020-03
    手机可以使用代理ip软件吗

    手机可以使用代理ip软件吗?答案是肯定的。不仅只是通过软件设置,也可以通过直连的方式,比如通过L2tp、pptp等协议连接,都是不需要通过软件去切换,只需要代理ip软件的账号密码就可以连

  • 21 2020-02
    代理ip都能干什么

    代理服务器英文全称是(Proxy Server),也叫做代理IP,其功能就是代理网络用户去取得网络信息。形象的说:它是网络信息的中转站。代理服务器就好象一个大的Cache,这样就能显著提高浏览速

在线咨询
大客户经理
大客户经理
1829380381
13316264505

大客户经理微信

微信公众号

微信公众号

回到顶部