您的位置:首页 > 新闻资讯 >文章内容
筛选免费代理ip中可以能用的IP
来源:互联网 作者:admin 时间:2019-04-11 13:52:55

  我们筛选免费代理ip中可以能用的IP,这个问题难不难解决呢?就目前来说,免费代理ip网站还是有非常多的,从网上一搜大把。


  能提供免费代理ip的网站有包国内的和国外的,但是因为免费,所以可用率低到不行,因此获取之后再筛选是免不了的。


  ip代理可以从各种网站上抓取,放到数据库中。


筛选免费代理ip中可以能用的IP


  当一个ip地址被封时(检测response中的状态码),从数据库中取出一条新的ip使用。


  同时数据库中的ip代理要定时检测是否可用,不可用的ip代理要及时删除。


  判断ip代理是否可用:


  使用该ip代理来访问一个网址,比如百度的首页,如果response中的状态码为200.说明可以正常访问,则该ip代理是可用的,否则是不可用的。


  另外也可以通过发送requests请求来进行ip的有效性检测:


    #验证ip,返回True/False值

    def verifyIP(self,proxy):

        print('开始判断{}的有效性'.format(proxy))

        try:

            #设置ip

            proxies = {'{}'.format(self.ip_stype):proxy}

            #设置headers

            headers = {'User-Agent':str(UserAgent().random)}

            #发生requests请求

            req = requests.get(self.url, headers=headers, proxies=proxies, verify=False, timeout=(6,14))

        except Exception as e:

            print('{}代理ip无效'.format(proxies))

            print('在检验过程中遇到的requests错误原因是:{}'.format(e))

            return False

        else:

            print('{}代理ip有效'.format(proxies))

            return True

        finally:

            print('{}代理ip有效性判断完成'.format(proxies))


  筛选免费代理ip中可以能用的IP有几种方法,上文仅是介绍IP访问检测,以及requests请求检测。如果对免费代理IP不感兴趣,可以找机灵代理,付费模式的代理IP效果会更好的,也无需经过复杂的检测再使用。


相关文章内容简介
推荐阅读
  • 18 2019-11
    短效代理IP的实用性

    通过浏览代理IP的网站,我们可以发现有很多类型的代理IP存在。今天我们来看看那么多种类型,为什么要短效代理IP的使用率是比较高的呢?

  • 03 2019-04
    爬取网页信息为何要使用代理IP?

    代理IP有高匿名的,也有不匿名的,如果python爬虫使用代理IP爬取网页,是选高匿的还是不匿名的呢?爬取网页信息为何要使用代理IP?

  • 27 2019-07
    最新IP代理百分百有效吗?

    最新IP代理百分百有效吗?IP代理会失效,只是时间长短问题,但如果使用最新IP代理,这刚刚使用的,是不是都有效呢?

  • 16 2019-05
    网民使用http代理保护隐私安全

    网民使用http代理保护隐私安全,关于隐私安全,之前是非法的窃取,或者是高价获得,但是现在技术进步之后,很多APP都能够直接获取到你的手机隐私,那么我们应该如何保护自己的隐私安全

  • 28 2019-11
    代理IP是如何影响网络爬虫的?

    网络时代,大家已经对很多技术操作见怪不怪了,像现在如果说起爬虫,可能之前感到惊奇的人会有很多,觉得这样数据抓取也是可以的吗?但是现在网络爬虫已经随着代理IP的普及,变得无所不

  • 19 2019-03
    为什么爬虫使用http代理ip还访问失败了

    在获取大量的信息时,他们都说http代理ip非常好用,但是为什么爬虫使用http代理ip还访问失败了?http代理IP不能用来爬虫https,反之应该也是一样的,这就是为什么使用http代理ip失败的原因。

在线咨询
大客户经理
大客户经理
1829380381
13316264505

大客户经理微信

微信公众号

微信公众号

回到顶部