如题描述
因为一些需求想对一份url列表进行get请求扫描,看看这些页面是否存在
平时用的requests模块的get和多进程来实现,感觉还是不够快.于是产生了如题描述的这种想法.
顺便问下,为什么vps提供商会封我...好郁闷.
如题描述
因为一些需求想对一份url列表进行get请求扫描,看看这些页面是否存在
平时用的requests模块的get和多进程来实现,感觉还是不够快.于是产生了如题描述的这种想法.
顺便问下,为什么vps提供商会封我...好郁闷.
平时用的requests模块的get和多进程来实现,感觉还是不够快.于是产生了如题描述的这种想法.
取决于多种原因,你丢弃 GET 的响应体并不一定会更快。
如果 HEAD 满足你的要求,你就用 HEAD 吧。
记得使用 requests.Session
,这样对同一服务器的访问可以加速一倍以上。
PS: 建议好好学习一下 HTTP,这样遇到问题你就不需要来问然后等着,最后拿到一个自己都不明白的解决方案。
4 回答4.4k 阅读✓ 已解决
4 回答3.8k 阅读✓ 已解决
1 回答2.9k 阅读✓ 已解决
3 回答2.1k 阅读✓ 已解决
1 回答4.5k 阅读✓ 已解决
1 回答3.8k 阅读✓ 已解决
1 回答2.8k 阅读✓ 已解决
heads=requests.head(url)