我要在命令行同时不间断地运行八九个python爬虫程序(爬不同的网站)?

但是过一段时间总有一两个程序会无响应,好像是被挂起了,CPU占用率并不高,不到10%,内存占用也不算多,60%左右,爬虫程序是去批量下载文件,平均每个几兆到十几兆。我设置了这几个程序的优先级高于普通标准,但是还是会出现无响应的状况。版本 python 2.7

求问:这个问题算不算进程被挂起?以及应该如何解决这个问题?

谢谢!

阅读 3.2k
2 个回答

这种问题得自己调,多打log

Python 有 GIL

撰写回答
你尚未登录,登录后可以
  • 和开发者交流问题的细节
  • 关注并接收问题和回答的更新提醒
  • 参与内容的编辑和改进,让解决方法与时俱进
推荐问题