scrapy 能否提取出特定的DEBUG信息

发布于
2017-08-23

新手上路，请多包涵

2017-08-22 23:11:17 [scrapy.downloadermiddlewares.retry] DEBUG: Gave up retrying <GET http://api.topcoder.com/v2/us...

(failed 3 times): 503 Service Unavailable

api不是很稳定，导致有些情况下，多次retry后仍然无法访问（但是手动验证过这个URL是可以访问的）
scrapy就不再retry了，想问一下能否在众多的DEBUG信息中单独保存这种Gave up的情况，尽量不要保存整个log，文件有点大（运行一次程序需要一天，可以想象log有多少）

python

阅读 2.1k

撰写回答

你尚未登录，登录后可以

和开发者交流问题的细节
关注并接收问题和回答的更新提醒
参与内容的编辑和改进，让解决方法与时俱进

推荐问题

Qt中布局是否只有5种呢？
我们经常看到的Qt的布局有：5种（都是继承自QLayout） {代码...} 但是我在官方文档有看到其他的Layout相关命名，例如：QPageLayoutQTextLayout等等请问这些是用于布局的吗？还是说Qt中布局就只有5种呢？
4 回答4.5k 阅读✓ 已解决
字节的 trae AI IDE 不支持类似 vscode 的 ssh remote 远程开发怎么办？
尝试一下字节的 trae AI IDE ([链接])安装后导入 vscode 的配置，好像一起把 vscode 的插件也导入了也能看到 vscode 之前配置的 ssh remote 但是连不上看到「输出」如下⬇️ {代码...}
1 回答3.2k 阅读✓ 已解决
这段代码为什么不能获取到数据？
{代码...}
4 回答3.8k 阅读✓ 已解决
请问一下，如何理解reduce函数呢？
但是reduce是减少的意思，请问如何形象化地理解reduce呢？我们可不可以理解：把参数2一个一个地带入到参数1（函数）中执行，这样也就慢慢减少呢？
3 回答2.2k 阅读✓ 已解决
如何使用Python+Selenium爬取Goodreads上万条书评而不崩溃？
通过python+selenium去爬取goodreads上一本书的评论，由于goodreads的评论是一页加载所有内容，不断点load more，就不断在该页面增加内容，在加载到3000-5000条评论时，页面就会崩溃，用的edge，内存设置的无限制。这种情况应该怎么做才行。
1 回答4.4k 阅读✓ 已解决
如何使用 python 代码实现迅雷磁力链接资源的下载？
很多磁力链接，只有使用迅雷客户端才能下载有速度但是迅雷客户端没有可操作的 sdk如果我有很多的磁力链接，需要下载，且需要指定每个磁力的下载位置等等操作，怎么实现自动化和批量化？
1 回答3.9k 阅读✓ 已解决
在PyCharm开发不同python项目，如果每个项目使用自己的venv环境，是不是每次切换项目都需要修改python interpreter？
在PyCharm开发不同python项目，如果每个项目使用自己的venv环境，是不是每次切换项目都需要修改python interpreter？
1 回答2.8k 阅读✓ 已解决

相似问题

Pandas写入能否在特定的位置？
1 回答2.4k 阅读✓ 已解决
Scrapy LOG信息输出到文件
2 回答10.5k 阅读✓ 已解决
scrapy运行后又 DEBUG 400，没能从网页上爬取信息；DEBUG 200 可以正常获取信息。
1 回答6.8k 阅读
将特定的选定列提取到新的 DataFrame 作为副本
2 回答741 阅读✓ 已解决
Python 爬虫提取网页信息
8 回答7.9k 阅读✓ 已解决

找不到问题？创建新问题

scrapy 能否提取出特定的DEBUG信息

你尚未登录，登录后可以

Qt中布局是否只有5种呢？

字节的 trae AI IDE 不支持类似 vscode 的 ssh remote 远程开发怎么办？

这段代码为什么不能获取到数据？

请问一下，如何理解reduce函数呢？

如何使用Python+Selenium爬取Goodreads上万条书评而不崩溃？

如何使用 python 代码实现迅雷磁力链接资源的下载？

在PyCharm开发不同python项目，如果每个项目使用自己的venv环境，是不是每次切换项目都需要修改python interpreter？