Python3爬虫利器Scrapyrt的安装方法是什么
这篇文章主要介绍了Python3爬虫利器Scrapyrt的安装方法是什么,具有一定借鉴价值,需要的朋友可以参考下。希望大家阅读完这篇文章后大有收获。下面让小编带着大家一起了解一下。
Scrapyrt为Scrapy提供了一个调度的HTTP接口,有了它,我们就不需要再执行Scrapy命令而是通过请求一个HTTP接口来调度Scrapy任务了。Scrapyrt比Scrapyd更轻量,如果不需要分布式多任务的话,可以简单使用Scrapyrt实现远程Scrapy任务的调度。
1. 相关链接
GitHub:https://github.com/scrapinghub/scrapyrt
官方文档:http://scrapyrt.readthedocs.io
2. pip安装
这里推荐使用pip安装,命令如下:
pip3installscrapyrt
接下来,在任意一个Scrapy项目中运行如下命令来启动HTTP服务:
scrapyrt
运行之后,会默认在9080端口上启动服务,类似的输出结果如下:
scrapyrt2017-07-1222:31:03+0800[-]Logopened.2017-07-1222:31:03+0800[-]Sitestartingon90802017-07-1222:31:03+0800[-]Startingfactory<twisted.web.server.Siteobjectat0x10294b160>
如果想更换运行端口,可以使用-p参数,如:
scrapyrt-p9081
这样就会在9081端口上运行了。
3. Docker安装
另外,Scrapyrt也支持Docker。比如,要想在9080端口上运行,且本地Scrapy项目的路径为/home/quotesbot,可以使用如下命令运行:
dockerrun-p9080:9080-tid-v/home/user/quotesbot:/scrapyrt/projectscrapinghub/scrapyrt
这样同样可以在9080端口上监听指定的Scrapy项目。
感谢你能够认真阅读完这篇文章,希望小编分享Python3爬虫利器Scrapyrt的安装方法是什么内容对大家有帮助,同时也希望大家多多支持亿速云,关注亿速云行业资讯频道,遇到问题就找亿速云,详细的解决方法等着你来学习!
声明:本站所有文章资源内容,如无特殊说明或标注,均为采集网络资源。如若本站内容侵犯了原著者的合法权益,可联系本站删除。