我在代码中加了
crawl_config = {
"itag" : "v1"
"fetcher": {
"proxy": 'xxxxxxxxxxxxx' ,
}
}
因为用免费proxy的关系, 所以时间一久就会失效, 需转换proxy
我直接将任务状态改变成STOP, 在代码中把 proxy改掉, 再将任务状态改变成DEBUG, 再按run
但是毫无反应啊, 如果将itag改掉, 整个任务会重启
我在代码中加了
crawl_config = {
"itag" : "v1"
"fetcher": {
"proxy": 'xxxxxxxxxxxxx' ,
}
}
因为用免费proxy的关系, 所以时间一久就会失效, 需转换proxy
我直接将任务状态改变成STOP, 在代码中把 proxy改掉, 再将任务状态改变成DEBUG, 再按run
但是毫无反应啊, 如果将itag改掉, 整个任务会重启
推荐的代理使用方法是,架设一个 squid,squid 中热更新配置,更换代理,代码中使用 squid 代理。