有爬虫，自然就会有反爬虫，数据爬取也不是那么容易的，你以为网站会让你那么顺利的就把他自家的数据拱手相让吗?当然是会设置一些阻拦，不过你有张良计，我有过墙梯。我们能够通过一些反反爬虫策略来帮助我们来解决问题，之前机灵代理也介绍过相关的策略，推荐阅读：使用代理IP与User Agent实现隐藏。那么，今天再给大家介绍一种策略：请求对象添加随机代理IP。

　　Scrapy中，更换请求对象的IP信息非常的方便，只需要在request对象进入下载器之前，修改request对象的参数信息。

　　所以我们需要在下载器中间件 Download_middleware中自定义一个下载器中间件ProxiesMiddleware，在process_request()函数中修改request对象信息。

　　其中 PROXIES_LIST 是构建的代理列表。

　　process_request的参数分别是request当前请求对象,spider当前的爬虫对象。

　　返回None，Scrapy将继续处理该Request;

　　返回Request对象时，这个Reuqest会重新放到调度队列里，更低优先级的process_reqyest()函数不会执行;

　　返回Response对象时，直接将Response对象发送给Spider来处理。

　　现在每次发送一次请求，请求对象的IP信息就会从配置中的代理IP池中随机挑选一个。不同的IP就会迷惑服务器监控，不会对本次请求做反爬处理了。至此，我们的爬虫就能顺顺当当的获取数据了。

　　但这才只是代理的第一步。没有哪个代理是能保证百分之百成功的。付费代理也好，免费代理也好，即使是高匿代理也只不过是提高了防反爬的几率，并没有说一定会成功的。

　　请求失败的解决方案有两种:

　　1、多试几次，直到请求成功，不成功就报错。

　　2、换一个IP试试，直到换成请求成功的代理。对代理质量要求必须高。如果代理池质量很差，项目就会陷入死循环中。

　　解决逻辑是： 设置重试次数，达到指定次数就换IP。

　　幸运的是Scrapy框架中自带了处理失败请求的中间件RetryMiddleware。

　　注释的部分是添加的加入代理的逻辑，需要继承RetryMiddleware之后再重写。

　　在settings中设置最大重试次数以及需要进行重试的异常状态码列表。

　　关闭Scrapy自带的RetryMiddleware中间件，开启自定义的Retry中间件。

　　启动项目测试。遇到失败的请求会重新发送，超过最大重试次数以后返回一个空的数据。

　　如果你正在使用代理IP开展爬虫，不妨试试这个反反爬虫策略能否奏效。