您的位置:首页 > 新闻资讯 >文章内容
筛选免费代理ip中可以能用的IP
来源:互联网 作者:admin 时间:2019-04-11 13:52:55

  我们筛选免费代理ip中可以能用的IP,这个问题难不难解决呢?就目前来说,免费代理ip网站还是有非常多的,从网上一搜大把。


  能提供免费代理ip的网站有包国内的和国外的,但是因为免费,所以可用率低到不行,因此获取之后再筛选是免不了的。


  ip代理可以从各种网站上抓取,放到数据库中。


筛选免费代理ip中可以能用的IP


  当一个ip地址被封时(检测response中的状态码),从数据库中取出一条新的ip使用。


  同时数据库中的ip代理要定时检测是否可用,不可用的ip代理要及时删除。


  判断ip代理是否可用:


  使用该ip代理来访问一个网址,比如百度的首页,如果response中的状态码为200.说明可以正常访问,则该ip代理是可用的,否则是不可用的。


  另外也可以通过发送requests请求来进行ip的有效性检测:


    #验证ip,返回True/False值

    def verifyIP(self,proxy):

        print('开始判断{}的有效性'.format(proxy))

        try:

            #设置ip

            proxies = {'{}'.format(self.ip_stype):proxy}

            #设置headers

            headers = {'User-Agent':str(UserAgent().random)}

            #发生requests请求

            req = requests.get(self.url, headers=headers, proxies=proxies, verify=False, timeout=(6,14))

        except Exception as e:

            print('{}代理ip无效'.format(proxies))

            print('在检验过程中遇到的requests错误原因是:{}'.format(e))

            return False

        else:

            print('{}代理ip有效'.format(proxies))

            return True

        finally:

            print('{}代理ip有效性判断完成'.format(proxies))


  筛选免费代理ip中可以能用的IP有几种方法,上文仅是介绍IP访问检测,以及requests请求检测。如果对免费代理IP不感兴趣,可以找机灵代理,付费模式的代理IP效果会更好的,也无需经过复杂的检测再使用。


相关文章内容简介
推荐阅读
  • 10 2019-12
    上网ip被封怎么办?

    上网ip被封怎么办?在上网的过程中,IP被封相信很多用户都遇到过,这是因为发布了不当信息或者访问频繁,被目标网站检测出,所以IP被封。那么,访问网站IP被封该怎么办?

  • 26 2019-08
    做自媒体能用代理IP做什么?

    自媒体平台如同雨后春笋出现,从微博、微信公众号、头条号、抖音号等等,人人都有成为自媒体大咖的机会跟窗口。那么,你知道要做好一个新媒体矩阵,你为什么会需要用到代理IP吗?以及新

  • 05 2019-06
    爬虫代理ip的抓取和验校过程

    爬虫代理ip的抓取和验校过程,如果大家会的话,对于免费爬虫代理ip的使用更加得心应手。

  • 05 2019-07
    网站分布式采集需要http代理

    网站分布式采集需要http代理,这是为什么呢?一个网站要发展起来,单靠每天更新几篇,这效果是太慢的,很多网站都是采用爬虫进行采集的,这样不仅快,还节省时间人力。

  • 01 2020-09
    代理IP对于爬虫的重要性

    大家都说现在是大数据时代,是python爬虫的天下,但python爬虫也是有天敌的,随着网络爬虫的日渐壮大,反爬虫也在不断进化,若想顺应时代发展,更好的突破网站反爬虫机制,拥有一款好的代

  • 24 2019-06
    动态代理IP爬虫采集数据的首选

    动态代理IP爬虫采集数据的首选,由于爬虫经常被限制的,如果使用了动态代理IP,这样可以快速切换IP,帮助爬虫继续访问,提高抓取网站信息的效率,这是非常有好处的。

在线咨询
大客户经理
大客户经理
1829380381
13316264505

大客户经理微信

微信公众号

微信公众号

回到顶部