您的位置:首页 > 新闻资讯 >文章内容
代理IP知乎爬虫实战分享
来源:互联网 作者:admin 时间:2019-09-26 10:15:28

  刚开始接触爬虫,可能会感觉有点无从入手,是从基础知识学起好呢,还是从边实践边学习呢?代理IP这边建议,学习爬虫,基础的理论以及代码知识需要扎实,这样才能够确认程序的正确率。而现在网上的学习知识那么多,想要动手的心不妨先放一放,先多看看几个实战爬虫案例,看看人家的成功操作,这样对我们的爬虫开展才有利。


  下面分享一个用代理IP爬取知乎内容的案例。


  爬虫的基本流程:

  

代理IP知乎爬虫实战分享


  网络爬虫的基本工作流程如下:


  1、首先选取一部分精心挑选的种子URL


  2、将种子URL加入任务队列


  从待抓取URL队列中取出待抓取的URL,解析DNS,并且得到主机的ip,并将URL对应的网页下载下来,存储进已下载网页库中。此外,将这些URL放进已抓取URL队列。


  3、分析已抓取URL队列中的URL,分析其中的其他URL,并且将URL放入待抓取URL队列,从而进入下一个循环。


  4、解析下载下来的网页,将需要的数据解析出来。


  5、数据持久话,保存至数据库中。


  爬虫在python里怎么实现呢?


  技术栈


  requests 人性化的请求发送

  Bloom Filter 布隆过滤器,用于判重

  XPath 解析HTML内容

  murmurhash

  Anti crawler strategy 反爬虫策略

  MySQL 用户数据存储

  基本实现


  下面是一个伪代码


  import Queue

  initial_page = "https://www.zhihu.com/people/gaoming623"

  url_queue = Queue.Queue()

  seen = set()

  seen.insert(initial_page)

  url_queue.put(initial_page)

  while(True): #一直进行

  if url_queue.size()>0:

  current_url = url_queue.get() #拿出队例中第一个的url

  store(current_url) #把这个url代表的网页存储好

  for next_url in extract_urls(current_url): #提取把这个url里链向的url

  if next_url not in seen:

  seen.put(next_url)

  url_queue.put(next_url)

  else:

  break


  如果你直接加工一下上面的代码直接运行的话,你需要很长的时间才能爬下整个知乎用户的信息,毕竟知乎有6000万月活跃用户。更别说Google这样的搜索引擎需要爬下全网的内容了。那么问题出现在哪里?


  布隆过滤器


  需要爬的网页实在太多太多了,而上面的代码太慢太慢了。设想全网有N个网站,那么分析一下判重的复杂度就是N*log(N),因为所有网页要遍历一次,而每次判重用set的话需要log(N)的复杂度。OK,我知道python的set实现是hash——不过这样还是太慢了,至少内存使用效率不高。


  通常的判重做法是怎样呢?Bloom Filter. 简单讲它仍然是一种hash的方法,但是它的特点是,它可以使用固定的内存(不随url的数量而增长)以O(1)的效率判定url是否已经在set中。可惜天下没有白吃的午餐,它的唯一问题在于,如果这个url不在set中,BF可以100%确定这个url没有看过。但是如果这个url在set中,它会告诉你:这个url应该已经出现过,不过我有2%的不确定性。注意这里的不确定性在你分配的内存足够大的时候,可以变得很小很少。


  # bloom_filter.py

  BIT_SIZE = 5000000

  class BloomFilter:

  def __init__(self):

  # Initialize bloom filter, set size and all bits to 0

  bit_array = bitarray(BIT_SIZE)

  bit_array.setall(0)

  self.bit_array = bit_array

  def add(self, url):

  # Add a url, and set points in bitarray to 1 (Points count is equal to hash funcs count.)

  # Here use 7 hash functions.

  point_list = self.get_postions(url)

  for b in point_list:

  self.bit_array[b] = 1

  def contains(self, url):

  # Check if a url is in a collection

  point_list = self.get_postions(url)

  result = True

  for b in point_list:

  result = result and self.bit_array[b]

  return result

  def get_postions(self, url):

  # Get points positions in bit vector.

  point1 = mmh3.hash(url, 41) % BIT_SIZE

  point2 = mmh3.hash(url, 42) % BIT_SIZE

  point3 = mmh3.hash(url, 43) % BIT_SIZE

  point4 = mmh3.hash(url, 44) % BIT_SIZE

  point5 = mmh3.hash(url, 45) % BIT_SIZE

  point6 = mmh3.hash(url, 46) % BIT_SIZE

  point7 = mmh3.hash(url, 47) % BIT_SIZE

  return [point1, point2, point3, point4, point5, point6, point7]


  建表


  用户有价值的信息包括用户名、简介、行业、院校、专业及在平台上活动的数据比如回答数、文章数、提问数、粉丝数等等。


  用户信息存储的表结构如下:


  CREATE DATABASE `zhihu_user` /*!40100 DEFAULT CHARACTER SET utf8 */;

  -- User base information table

  CREATE TABLE `t_user` (

  `uid` bigint(20) unsigned NOT NULL AUTO_INCREMENT,

  `username` varchar(50) NOT NULL COMMENT '用户名',

  `brief_info` varchar(400) COMMENT '个人简介',

  `industry` varchar(50) COMMENT '所处行业',

  `education` varchar(50) COMMENT '毕业院校',

  `major` varchar(50) COMMENT '主修专业',

  `answer_count` int(10) unsigned DEFAULT 0 COMMENT '回答数',

  `article_count` int(10) unsigned DEFAULT 0 COMMENT '文章数',

  `ask_question_count` int(10) unsigned DEFAULT 0 COMMENT '提问数',

  `collection_count` int(10) unsigned DEFAULT 0 COMMENT '收藏数',

  `follower_count` int(10) unsigned DEFAULT 0 COMMENT '被关注数',

  `followed_count` int(10) unsigned DEFAULT 0 COMMENT '关注数',

  `follow_live_count` int(10) unsigned DEFAULT 0 COMMENT '关注直播数',

  `follow_topic_count` int(10) unsigned DEFAULT 0 COMMENT '关注话题数',

  `follow_column_count` int(10) unsigned DEFAULT 0 COMMENT '关注专栏数',

  `follow_question_count` int(10) unsigned DEFAULT 0 COMMENT '关注问题数',

  `follow_collection_count` int(10) unsigned DEFAULT 0 COMMENT '关注收藏夹数',

  `gmt_create` datetime NOT NULL COMMENT '创建时间',

  `gmt_modify` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP COMMENT '最后一次编辑',

  PRIMARY KEY (`uid`)

  ) ENGINE=MyISAM AUTO_INCREMENT=1 DEFAULT CHARSET=utf8 COMMENT='用户基本信息表';

  网页下载后通过XPath进行解析,提取用户各个维度的数据,最后保存到数据库中。


  反爬虫策略应对-Headers


  一般网站会从几个维度来反爬虫:用户请求的Headers,用户行为,网站和数据加载的方式。从用户请求的Headers反爬虫是最常见的策略,很多网站都会对Headers的User-Agent进行检测,还有一部分网站会对Referer进行检测(一些资源网站的防盗链就是检测Referer)。


  如果遇到了这类反爬虫机制,可以直接在爬虫中添加Headers,将浏览器的User-Agent复制到爬虫的Headers中;或者将Referer值修改为目标网站域名。对于检测Headers的反爬虫,在爬虫中修改或者添加Headers就能很好的绕过。


  cookies = {

  "d_c0": "AECA7v-aPwqPTiIbemmIQ8abhJy7bdD2VgE=|1468847182",

  "login": "NzM5ZDc2M2JkYzYwNDZlOGJlYWQ1YmI4OTg5NDhmMTY=|1480901173|9c296f424b32f241d1471203244eaf30729420f0",

  "n_c": "1",

  "q_c1": "395b12e529e541cbb400e9718395e346|1479808003000|1468847182000",

  "l_cap_id": "NzI0MTQwZGY2NjQyNDQ1NThmYTY0MjJhYmU2NmExMGY=|1480901160|2e7a7faee3b3e8d0afb550e8e7b38d86c15a31bc",

  "d_c0": "AECA7v-aPwqPTiIbemmIQ8abhJy7bdD2VgE=|1468847182",

  "cap_id": "N2U1NmQwODQ1NjFiNGI2Yzg2YTE2NzJkOTU5N2E0NjI=|1480901160|fd59e2ed79faacc2be1010687d27dd559ec1552a"

  }

  headers = {

  "User-Agent": "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/54.0.2840.98 Safari/537.3",

  "Referer": "https://www.zhihu.com/"

  }

  r = requests.get(url, cookies = cookies, headers = headers)


  反爬虫策略应对——代理IP池


  还有一部分网站是通过检测用户行为,例如同一IP短时间内多次访问同一页面,或者同一账户短时间内多次进行相同操作。


  大多数网站都是前一种情况,对于这种情况,使用IP代理就可以解决。这样的代理ip爬虫经常会用到,最好自己准备一个。有了大量代理ip后可以每请求几次更换一个ip,这在requests或者urllib2中很容易做到,这样就能很容易的绕过第一种反爬虫。目前知乎已经对爬虫做了限制,如果是单个IP的话,一段时间系统便会提示异常流量,无法继续爬取了。因此代理IP池非常关键。


  import requests

  import random

  class Proxy:

  def __init__(self):

  self.cache_ip_list = []

  # Get random ip from free proxy api url.

  def get_random_ip(self):

  if not len(self.cache_ip_list):

  api_url = 'http://api.xicidaili.com/free2016.txt'

  try:

  r = requests.get(api_url)

  ip_list = r.text.split('\r\n')

  self.cache_ip_list = ip_list

  except Exception as e:

  # Return null list when caught exception.

  # In this case, crawler will not use proxy ip.

  print e

  return {}

  proxy_ip = random.choice(self.cache_ip_list)

  proxies = {'http': 'http://' + proxy_ip}

  return proxies


  后续:


  使用日志模块记录爬取日志和错误日志


  分布式任务队列和分布式爬虫


  爬虫源代码:zhihu-crawler 下载之后通过pip安装相关三方包后,运行$ python crawler.py即可。


相关文章内容简介
推荐阅读
  • 18 2019-04
    国内最好用的代理IP池推荐

    国内最好用的代理IP池推荐:不管是出于什么原因需要更换IP地址的,既然是想到要使用代理IP池了,这数量估计也没有少了,那么找哪家好呢?

  • 06 2019-05
    用机灵代理换IP地址的优势

    用机灵代理换IP地址的优势有哪些?机灵代理是一款功能强大、操作简单的代理IP工具,用户通过使用机灵代理,达到更换IP地址的目的,获得隐藏IP地址,突破网络限制等效果。在众多代理IP工

  • 21 2019-06
    如何验证ip代理是否可以用

    如何验证ip代理是否可以用?网络上有很多的免费代理ip,但是有效率低的可怜,这个是为什么呢?这是因为用的人太多了,同一个ip无数人用来访问同一个网站,ip就会被封掉。那么如何验证ip是

  • 26 2019-03
    怎样才能从代理服务器IP中获得收益?

    现如今网络在不断的发展,而网站一夜之间也备受大家的瞩目,从之前的单人使用现在变成了共享网络,但是其资源的正确使用却给客户造成了不少的麻烦,而服务器却帮助他们很好的解决这一

  • 30 2019-05
    代理IP的稳定性受什么影响

    代理IP的稳定性受什么影响?选个稳定性好的代理IP,这对于使用效果无疑是更好的,如果代理IP的稳定性比较低,这对效率影响也比较大,否则大家都使用免费代理IP去了。

  • 11 2019-11
    HTTP协议特性

    HTTP代理IP支持多少种协议?HTTP代理IP一般都支持两种协议HTTP和HTTPS协议。那么,HTTP协议是什么?它有什么特性呢?代理IP下面就为大家进行介绍。

在线咨询
大客户经理
大客户经理
1829380381
13316264505

大客户经理微信

微信公众号

微信公众号

回到顶部