pyspider 如何添加所有项目的全局代理

现在我们pyspider的所有项目都需要代理,然后如果每个项目都通过添加crawl_config的方法的话很麻烦,想要添加一个所有项目的proxy.
在libs/base_handler.py如下代码添加proxy,尝试没有生效,有谁知道该怎么添加全局的proxy吗?

clipboard.png

阅读 5.4k
3 个回答

系统级的设置尝试没成功.我直接修改了fetch的代码.测试可以了
修改了pyspider-master/pyspider/fetcher/tornado_fetcher.py
下的proxy_string的赋值.

设置环境变量HTTP_PROXYHTTPS_PROXY

一般在.bashrc或者.profile或者.zshrc中设置。

pyspider fetcher --proxy=host:port

撰写回答
你尚未登录,登录后可以
  • 和开发者交流问题的细节
  • 关注并接收问题和回答的更新提醒
  • 参与内容的编辑和改进,让解决方法与时俱进
推荐问题