scrapy 启动爬虫的时候 爬虫没有定时关掉

我用crontab 启动一个爬虫,但是爬虫没有在2分钟内关掉
现在有个方案就是while 死循环内
2分钟内正常运行完毕就不管,如果运行的时间超过1小时 就把这个spider 关闭,如何操作

阅读 2.5k
2 个回答

建议搜索下扩展中间件。excetions,有关于spider未接收到信号的说明。

可以设置 CLOSESPIDER_TIMEOUT 参数
detail

撰写回答
你尚未登录,登录后可以
  • 和开发者交流问题的细节
  • 关注并接收问题和回答的更新提醒
  • 参与内容的编辑和改进,让解决方法与时俱进
推荐问题