Scrapy框架设置下载中间件的方法
小编给大家分享一下Scrapy框架设置下载中间件的方法,相信大部分人都还不怎么了解,因此分享这篇文章给大家学习,希望大家阅读完这篇文章后大所收获,下面让我们一起去学习方法吧!
设置下载中间件(Downloader Middlewares)
下载中间件是处于引擎(crawler.engine)和下载器(crawler.engine.download())之间的一层组件,可以有多个下载中间件被加载运行。
1.当引擎传递请求给下载器的过程中,下载中间件可以对请求进行处理 (例如增加http header信息,增加proxy信息等);
2.在下载器完成http请求,传递响应给引擎的过程中, 下载中间件可以对响应进行处理(例如进行gzip的解压等)
要激活下载器中间件组件,将其加入到 DOWNLOADER_MIDDLEWARES 设置中。 该设置是一个字典(dict),键为中间件类的路径,值为其中间件的顺序(order)。
DOWNLOADER_MIDDLEWARES={'mySpider.middlewares.MyDownloaderMiddleware':543,}
编写下载器中间件十分简单。每个中间件组件是一个定义了以下一个或多个方法的Python类:
classscrapy.contrib.downloadermiddleware.DownloaderMiddleware
process_request(self, request, spider)
1.当每个request通过下载中间件时,该方法被调用。
2.process_request() 必须返回以下其中之一:一个 None 、一个 Response 对象、一个 Request 对象或 raise IgnoreRequest:
(1)如果其返回 None ,Scrapy将继续处理该request,执行其他的中间件的相应方法,直到合适的下载器处理函数(download handler)被调用, 该request被执行(其response被下载)。
(2)如果其返回 Response 对象,Scrapy将不会调用 任何 其他的 process_request() 或 process_exception() 方法,或相应地下载函数; 其将返回该response。 已安装的中间件的 process_response() 方法则会在每个response返回时被调用。
(3)如果其返回 Request 对象,Scrapy则停止调用 process_request方法并重新调度返回的request。当新返回的request被执行后, 相应地中间件链将会根据下载的response被调用。
(4)如果其raise一个 IgnoreRequest 异常,则安装的下载中间件的 process_exception() 方法会被调用。如果没有任何一个方法处理该异常, 则request的errback(Request.errback)方法会被调用。如果没有代码处理抛出的异常, 则该异常被忽略且不记录(不同于其他异常那样)。
3.参数:
(1)request (Request 对象) – 处理的request
(2)spider (Spider 对象) – 该request对应的spider
process_response(self, request, response, spider)
1.当下载器完成http请求,传递响应给引擎的时候调用。
2.process_request() 必须返回以下其中之一: 返回一个 Response 对象、 返回一个 Request 对象或raise一个 IgnoreRequest 异常。
(1)如果其返回一个 Response (可以与传入的response相同,也可以是全新的对象), 该response会被在链中的其他中间件的 process_response() 方法处理。
(2)如果其返回一个 Request 对象,则中间件链停止, 返回的request会被重新调度下载。处理类似于 process_request() 返回request所做的那样。
(3)如果其抛出一个 IgnoreRequest 异常,则调用request的errback(Request.errback)。 如果没有代码处理抛出的异常,则该异常被忽略且不记录(不同于其他异常那样)。
3.参数:
(1)request (Request 对象) – response所对应的request
(2)response (Response 对象) – 被处理的response
(3)spider (Spider 对象) – response所对应的spider
实例
#!/usr/bin/envpython#-*-coding:utf-8-*-importrandomimportbase64fromsettingsimportUSER_AGENTSfromsettingsimportPROXIES#随机的User-AgentclassRandomUserAgent(object):defprocess_request(self,request,spider):useragent=random.choice(USER_AGENTS)request.headers.setdefault("User-Agent",useragent)classRandomProxy(object):defprocess_request(self,request,spider):proxy=random.choice(PROXIES)ifproxy['user_passwd']isNone:#没有代理账户验证的代理使用方式request.meta['proxy']="http://"+proxy['ip_port']else:#对账户密码进行base64编码转换base64_userpasswd=base64.b64encode(proxy['user_passwd'])#对应到代理服务器的信令格式里request.headers['Proxy-Authorization']='Basic'+base64_userpasswdrequest.meta['proxy']="http://"+proxy['ip_port']
为什么HTTP代理要使用base64编码:
HTTP代理的原理很简单,就是通过HTTP协议与代理服务器建立连接,协议信令中包含要连接到的远程主机的IP和端口号,如果有需要身份验证的话还需要加上授权信息,服务器收到信令后首先进行身份验证,通过后便与远程主机建立连接,连接成功之后会返回给客户端200,表示验证通过,就这么简单,下面是具体的信令格式:
修改settings.py配置USER_AGENTS和PROXIES
添加USER_AGENTS:
USER_AGENTS=["Mozilla/5.0(compatible;MSIE9.0;WindowsNT6.1;Win64;x64;Trident/5.0;.NETCLR3.5.30729;.NETCLR3.0.30729;.NETCLR2.0.50727;MediaCenterPC6.0)","Mozilla/5.0(X11;U;Linux;en-US)AppleWebKit/527+(KHTML,likeGecko,Safari/419.3)Arora/0.6","Mozilla/5.0(Windows;U;WindowsNT5.1;zh-CN;rv:1.9)Gecko/20080705Firefox/3.0Kapiko/3.0",]
添加代理IP设置PROXIES:
PROXIES=[{'ip_port':'ip:port1','user_passwd':'user1:pass1'},{'ip_port':'ip2:port2','user_passwd':'user2:pass2'},{'ip_port':'ip3:port3','user_passwd':'user3:pass3'},]
除非特殊需要,禁用cookies,防止某些网站根据Cookie来封锁爬虫。
COOKIES_ENABLED=False
设置下载延迟
DOWNLOAD_DELAY=3
最后添加自己写的下载中间件类
DOWNLOADER_MIDDLEWARES={'mySpider.middlewares.MyDownloaderMiddleware':543,}
以上是Scrapy框架设置下载中间件的方法的所有内容,感谢各位的阅读!相信大家都有了一定的了解,希望分享的内容对大家有所帮助,如果还想学习更多知识,欢迎关注亿速云行业资讯频道!
声明:本站所有文章资源内容,如无特殊说明或标注,均为采集网络资源。如若本站内容侵犯了原著者的合法权益,可联系本站删除。