scrapy redis爬虫如何获取从redis返回的url呢?

新手上路,请多包涵

问题描述

需要从url里面提取关键词给爬虫,所以需要获得redis下发到爬虫的url。

相关代码

// 请把代码文本粘贴到下方(请勿用图片代替代码)

redis_key = 'weibospider:start_urls'

#names=start_urls.split('q%3D')[1].split('&page')[0]
global  names
url = bytes_to_str(self.data, self.redis_encoding)
names= parse.unquote(str(redis_key).split('q%3D')[1].split('&page')[0])

你期待的结果是什么?

希望能在names里面获得url提取出来的文字。

阅读 2k
撰写回答
你尚未登录,登录后可以
  • 和开发者交流问题的细节
  • 关注并接收问题和回答的更新提醒
  • 参与内容的编辑和改进,让解决方法与时俱进
推荐问题