pyspider 运行一段时间之后出现phantomjs对于大量请求没有response

我的pyspider正常运行好长一段时间了,对于phantomjs是定时重启的,可是在突然发现守护进程被杀掉了,整个pyspider重启以后仍然出现phantomjs没有反映,请问这是什么原因?谢谢!!

clipboard.png

【补充】重新使用pyspider -c pyspider.json 启动的时候phantomjs组建没有开启,手动再通过pyspider -c pyspider.json phantomjs 开启,之后再发请求调试,出现下面的情况:

clipboard.png

阅读 5.8k
3 个回答

phantomjs 很容易内存泄露,或者死掉,所有的服务器端 browser 都有这个问题。有计划假如 splash 等多个渲染后端选择,但是并不能解决问题。
部署时建议不要用 all 模式,独立进程,独立重启

撰写回答
你尚未登录,登录后可以
  • 和开发者交流问题的细节
  • 关注并接收问题和回答的更新提醒
  • 参与内容的编辑和改进,让解决方法与时俱进