如何使scrapy-redis获取的不是url而且是请求的数据呢?

新手上路,请多包涵

参考scrapy-redis在github上使用的方法是
图片描述

scsrapy默认获取的都是url,但我在项目中请求的URL都是固定,区别都在于请求数据不一致。
scrapy-redis是否有办法做到我向redis push 需要查询的数据,scrapy检测到后使用该数据查询

阅读 1.9k
1 个回答

可以往redis中存放json啊,参考下next_requests的方法,改成解析json。。。
https://github.com/rmax/scrapy-redis/blob/master/src/scrapy_redis/spiders.py

撰写回答
你尚未登录,登录后可以
  • 和开发者交流问题的细节
  • 关注并接收问题和回答的更新提醒
  • 参与内容的编辑和改进,让解决方法与时俱进
推荐问题