scrapy 如何清除cookies

在采集普通网站时,有时候发现采集时间久了,获取不到新连接,关闭重采时就正常,猜想可能是cookies的原因,询问下,scrapy 采集时,如何隔一段时间就清空所有的cookies 呢

阅读 5.2k
2 个回答

如果是默认的cookies

self.crawler.engine.downloader.middleware.middlewares[7].jars[None].clear()

我是在 parse 函数中使用的,self就是爬虫对象

在setting里,

COOKIES_ENABLED=False
撰写回答
你尚未登录,登录后可以
  • 和开发者交流问题的细节
  • 关注并接收问题和回答的更新提醒
  • 参与内容的编辑和改进,让解决方法与时俱进