极客观点
项目管理
HarmonyOS
请问
pyspider如何对某一个抓取值去重，不是url去重
比如我抓了很多文章，同样文章标题的不去抓取，过滤掉
请问怎么怎么设置，谢谢
python撰写回答
你尚未登录，登录后可以
- 和开发者交流问题的细节
- 关注并接收问题和回答的更新提醒
- 参与内容的编辑和改进，让解决方法与时俱进
推荐问题
字节的 trae AI IDE 不支持类似 vscode 的 ssh remote 远程开发怎么办？
尝试一下字节的 trae AI IDE ([链接])安装后导入 vscode 的配置，好像一起把 vscode 的插件也导入了也能看到 vscode 之前配置的 ssh remote 但是连不上看到「输出」如下⬇️ {代码...}2 回答4.3k 阅读✓ 已解决
DataCap 中验证码无法显示，后台出现 NullPointerException 错误?
2 回答850 阅读✓ 已解决
如何使用 python 代码实现迅雷磁力链接资源的下载？
很多磁力链接，只有使用迅雷客户端才能下载有速度但是迅雷客户端没有可操作的 sdk如果我有很多的磁力链接，需要下载，且需要指定每个磁力的下载位置等等操作，怎么实现自动化和批量化？1 回答4.1k 阅读✓ 已解决
如何实现一个深拷贝函数？
在项目开发中，如何实现一个深拷贝函数？3 回答838 阅读✓ 已解决
请问，FastAPI如何获取到前端上传的二进制文件并且返回？
使用FastAPI想要获得前端上传的数据（是一个二进制文件）： {代码...} 但是我直接返回，这里是报错：请问，FastAPI如何获取到前端上传的二进制文件并且返回（可以对其进行打印）？2 回答2.1k 阅读✓ 已解决
浏览器能请求到数据怎么换了api工具或是爬虫都没数据了呢？
4 回答2.5k 阅读
Python 成员变量在多个子类实例间共享，如何避免？
请教一下，Python版本为3.9.6，然后运行如下的代码，为什么会出现SlaveTwo类的对象modelTwo打印自身的成员变量storeDataArr的结果是['data1', 'data2']，不应该是['data2']？3 回答892 阅读✓ 已解决
在脚本中覆盖get_taskid方法，相同文章标题的任务返回相同的taskid即可达到去重的效果