pyspider 是否支持mongodb集群作为taskdb

问题描述

抓取类似知乎的回答 由于知乎的回答有的非常多 所以用了response.save来存前面爬去的结果

由于知乎站点不能爬取太快 可能有导致任务不能及时完成

所以taskdb需要存取的数据非常多 那个项目的taskdb接近250GB

你期待的结果是什么?实际看到的错误信息又是什么?

pyspider是否支持mongodb集群作为taskdb
然后应该怎么配置...


一只斗牛犬
浏览 894回答 1
1回答
打开App,查看更多内容
随时随地看视频慕课网APP

相关分类

Python