请教爬虫设计方面的问题

新手上路,请多包涵

业务在搞个爬虫玩玩。

有个阻塞队列里放了请求对象, Scheduler 模块会从阻塞队列里拿请求对象

问题是怎么优雅的发给 Downloader 模块,除了再使用个队列。还有其他什么方式?

开发使用的是 java ,下载模块是多线程的。

下载完后又怎么优雅的交给解析模块?

阅读 1.5k
撰写回答
你尚未登录,登录后可以
  • 和开发者交流问题的细节
  • 关注并接收问题和回答的更新提醒
  • 参与内容的编辑和改进,让解决方法与时俱进
推荐问题