您的位置:首页 > 新闻资讯 >文章内容
筛选免费代理ip中可以能用的IP
来源:互联网 作者:admin 时间:2019-04-11 13:52:55

  我们筛选免费代理ip中可以能用的IP,这个问题难不难解决呢?就目前来说,免费代理ip网站还是有非常多的,从网上一搜大把。


  能提供免费代理ip的网站有包国内的和国外的,但是因为免费,所以可用率低到不行,因此获取之后再筛选是免不了的。


  ip代理可以从各种网站上抓取,放到数据库中。


筛选免费代理ip中可以能用的IP


  当一个ip地址被封时(检测response中的状态码),从数据库中取出一条新的ip使用。


  同时数据库中的ip代理要定时检测是否可用,不可用的ip代理要及时删除。


  判断ip代理是否可用:


  使用该ip代理来访问一个网址,比如百度的首页,如果response中的状态码为200.说明可以正常访问,则该ip代理是可用的,否则是不可用的。


  另外也可以通过发送requests请求来进行ip的有效性检测:


    #验证ip,返回True/False值

    def verifyIP(self,proxy):

        print('开始判断{}的有效性'.format(proxy))

        try:

            #设置ip

            proxies = {'{}'.format(self.ip_stype):proxy}

            #设置headers

            headers = {'User-Agent':str(UserAgent().random)}

            #发生requests请求

            req = requests.get(self.url, headers=headers, proxies=proxies, verify=False, timeout=(6,14))

        except Exception as e:

            print('{}代理ip无效'.format(proxies))

            print('在检验过程中遇到的requests错误原因是:{}'.format(e))

            return False

        else:

            print('{}代理ip有效'.format(proxies))

            return True

        finally:

            print('{}代理ip有效性判断完成'.format(proxies))


  筛选免费代理ip中可以能用的IP有几种方法,上文仅是介绍IP访问检测,以及requests请求检测。如果对免费代理IP不感兴趣,可以找机灵代理,付费模式的代理IP效果会更好的,也无需经过复杂的检测再使用。


相关文章内容简介
推荐阅读
  • 04 2019-04
    IP代理池的组成以及搭建过程中遇到的问题

    我们搭建IP代理池,一般都是选择免费的,不过免费的采集也简单,无非就是:访问页面页面 —> 正则/xpath提取 —> 保存。下面我们来看看IP代理池的组成以及搭建过程中遇到的问题。

  • 16 2019-05
    普通人怎么使用http代理?

    普通人怎么使用http代理?在平时的生活和工作中,我们经常会遇到更换IP的问题。每每这个时候就是最令人头疼的时候了。这就是传说中的“书到用时方很少”。其实作为我们普通人,也无需把

  • 22 2019-03
    一个免费的异步爬虫代理池

    由于网络流量不断增加,而且恶意爬虫遍地,许多网站为了保护自己都设置了大量的反爬虫。对面日益增加的反爬虫技术,网络爬虫要想突破,必须要借用各种的工具,比如代理IP。对于爬虫来

  • 15 2019-05
    直播平台刷量使用什么IP代理协议

    直播平台刷量使用什么IP代理协议?现在直播平台的盛行,导致大量手机端口观众流量涌入,使得大量主播为了自己自己直播间人气增加效果,不得不去做些投机取巧之人去做一下,协议人气,

  • 17 2019-04
    爬虫程序中添加随机代理IP

    爬虫程序中添加随机代理IP:在Scrapy中更换请求对象的IP信息非常的方便,只需要在request对象进入下载器之前,修改request对象的参数信息。

  • 27 2019-05
    代理服务器加速效果怎样?

    代理服务器加速效果怎样?代理服务器的加速,有没有使用过呢?其效果如何呢?

在线客服
大客户VIP渠道
点击这里给我发消息
讨论QQ群
HTTP代理IP爬虫
客服电话
13318873961