您的位置:首页 > 新闻资讯 >文章内容
获取网上高匿代理IP代码分享
来源:互联网 作者:admin 时间:2019-04-10 14:49:48

  获取网上高匿代理IP代码分享:当你需要在同一个网站爬取大量信息的时候,通常你会遇到各种各种各样的阻挠,其中一种就是IP被封,这时代理IP就成了我们不二的选择,我们下面的IP来源于国内髙匿代理IP网站,可以是免费的,也可以是收费的。


  今天介绍的是获取免费的代理IP,代码如下:


获取网上高匿代理IP代码分享


#功能:1,将ip_list中的IP写入IP.txt文件中  
#      2,获取随机IP,并将随机IP返回  
def get_random_ip(ip_list):  
    proxy_list = []  
    for ip in ip_list:  
        proxy_list.append('http://' + ip)  
        f=open('IP.txt','a+',encoding='utf-8')  
        f.write('http://' + ip)  
        f.write('\n')  
        f.close()  
    proxy_ip = random.choice(proxy_list)  
    proxies = {'http': proxy_ip}  
    return proxies  
  
if __name__ == '__main__':    
    for i in range(1,40):
        url = 'http://www.xicidaili.com/wt/{}'.format(i) 
        headers = {  
            'User-Agent': 'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/53.0.2785.143 Safari/537.36'  
        }  
        ip_list = get_ip_list(url, headers=headers)  
        proxies = get_random_ip(ip_list)  
        print(proxies)

  需要注意的一点是proxies的格式是一个字典:{‘http’: ‘http://42.84.226.65:8888‘}


  以上就是关于获取网上高匿代理IP代码分享了,如果不知道怎么抓取免费代理IP,可以参考下,仅供参考,或许在此过程中会遇到一些问题的。

相关文章内容简介
推荐阅读
  • 21 2020-04
    爬虫用代理IP​之后就完美了吗

    爬虫用代理IP​之后为什么还遇到问题?很多朋友在使用了优质稳定代理IP、控制了访问速度和次数、设置了UserAgent、Referer等一系列方式的情况下,发现爬虫工作还是会遇到各种不好的情况,导

  • 14 2019-05
    租用代理IP使用注意事项

    租用代理IP使用注意事项,大家在租用代理IP之前建议是要先了解下的。什么都不知道就跑去租用了,什么信息都无法对比,难找到好用的代理IP。那么我们租用代理IP使用,需要了解什么呢?

  • 04 2019-03
    爬虫代理IP的获取方式有哪些,该怎么选择呢

    ​随着互联网的迅猛发展,爬虫工作日益重要,而爬虫工作者一般都绕不过代理IP这个问题,为什么呢,这是因为在网络爬虫抓取信息的过程中,抓取频率高过了目标网站的设置阀值

  • 17 2019-07
    哪里找http代理ip?

    哪里找http代理ip?现如今,互联网上各种各样的http代理服务器层出不穷,由于做python爬虫的缘故,这个问题已经被ask无数次了。下面小编介绍几个常见的http代理服务器渠道。

  • 21 2019-11
    了解代理IP的强大作用

    发现很多人就算用上了代理IP,甚至是花了钱购买了代理IP服务,但是对于代理IP能够帮助到大家做些什么还是非常不清晰。只是单纯用在换IP上面,似乎有些浪费了代理IP的作用了。

  • 25 2019-03
    视频刷量原理,利用代理IP更换IP刷访问量

    近些年,我们的网络发展非常迅速,大家不管是娱乐还是工作,都离不开网络的。以前大家可能都是通过电视机看电视,但现在直接通过网络便能看到这些电视剧。不过有时候,大家可能对这些

在线咨询
大客户经理
大客户经理
1829380381
13316264505

大客户经理微信

微信公众号

微信公众号

回到顶部