python爬虫如何使用请求队列?

需求:
抓取网站目录结构的爬虫,发送http请求这部分 交给一个请求队列执行。
使用requests库手动发送请求也可以交给队列执行,然后返回request和response对象。

使用请求队列主要是为了统一控制爬虫和requests库发送频率

求推荐合适的爬虫和结合使用这样的请求队列

python新手,希望各位在解决问题的思路和方向上不吝赐教。

阅读 6.8k
3 个回答

简单的话直接用redis的list就好了,一进一出

新手上路,请多包涵

了解一下redis的队列机制

撰写回答
你尚未登录,登录后可以
  • 和开发者交流问题的细节
  • 关注并接收问题和回答的更新提醒
  • 参与内容的编辑和改进,让解决方法与时俱进
推荐问题
宣传栏