pyspider是否可以在任务途中改变代码?

新手上路,请多包涵

我在代码中加了
crawl_config = {

    "itag" : "v1"
    "fetcher": {            
        "proxy": 'xxxxxxxxxxxxx' ,
    }
}

因为用免费proxy的关系, 所以时间一久就会失效, 需转换proxy
我直接将任务状态改变成STOP, 在代码中把 proxy改掉, 再将任务状态改变成DEBUG, 再按run
但是毫无反应啊, 如果将itag改掉, 整个任务会重启

阅读 2.9k
2 个回答

推荐的代理使用方法是,架设一个 squid,squid 中热更新配置,更换代理,代码中使用 squid 代理。

方法内的代码可以热更新,类变量不能热更新,你想办法把proxy写到方法里吧。

撰写回答
你尚未登录,登录后可以
  • 和开发者交流问题的细节
  • 关注并接收问题和回答的更新提醒
  • 参与内容的编辑和改进,让解决方法与时俱进