现在我们pyspider的所有项目都需要代理,然后如果每个项目都通过添加crawl_config的方法的话很麻烦,想要添加一个所有项目的proxy.
在libs/base_handler.py如下代码添加proxy,尝试没有生效,有谁知道该怎么添加全局的proxy吗?
现在我们pyspider的所有项目都需要代理,然后如果每个项目都通过添加crawl_config的方法的话很麻烦,想要添加一个所有项目的proxy.
在libs/base_handler.py如下代码添加proxy,尝试没有生效,有谁知道该怎么添加全局的proxy吗?
4 回答4.4k 阅读✓ 已解决
4 回答3.8k 阅读✓ 已解决
1 回答3.1k 阅读✓ 已解决
3 回答2.1k 阅读✓ 已解决
1 回答4.4k 阅读✓ 已解决
1 回答3.9k 阅读✓ 已解决
1 回答2.8k 阅读✓ 已解决
系统级的设置尝试没成功.我直接修改了fetch的代码.测试可以了
修改了pyspider-master/pyspider/fetcher/tornado_fetcher.py
下的proxy_string的赋值.