极客观点
项目管理
HarmonyOS
最近遇到一个问题，要把2亿多的数据插入到 ES 中。
现在的方案是：生成器分段读取文本内容，再对每行内容进行处理，放入到一个列表
ES 方面是循环这个列表，每次取 500 条批量插入到 ES 中
以上方案速度巨慢，跑了一两个小时才1900万，不到2000万，请问这种情况有什么好的方案？
Python 处理亿级数据量有什么方案？
新手上路，请多包涵
python阅读 2.9k
撰写回答
你尚未登录，登录后可以
- 和开发者交流问题的细节
- 关注并接收问题和回答的更新提醒
- 参与内容的编辑和改进，让解决方法与时俱进
推荐问题
字节的 trae AI IDE 不支持类似 vscode 的 ssh remote 远程开发怎么办？
尝试一下字节的 trae AI IDE ([链接])安装后导入 vscode 的配置，好像一起把 vscode 的插件也导入了也能看到 vscode 之前配置的 ssh remote 但是连不上看到「输出」如下⬇️ {代码...}2 回答4.3k 阅读✓ 已解决
DataCap 中验证码无法显示，后台出现 NullPointerException 错误?
2 回答854 阅读✓ 已解决
如何使用 python 代码实现迅雷磁力链接资源的下载？
很多磁力链接，只有使用迅雷客户端才能下载有速度但是迅雷客户端没有可操作的 sdk如果我有很多的磁力链接，需要下载，且需要指定每个磁力的下载位置等等操作，怎么实现自动化和批量化？1 回答4.1k 阅读✓ 已解决
如何实现一个深拷贝函数？
在项目开发中，如何实现一个深拷贝函数？3 回答843 阅读✓ 已解决
请问，FastAPI如何获取到前端上传的二进制文件并且返回？
使用FastAPI想要获得前端上传的数据（是一个二进制文件）： {代码...} 但是我直接返回，这里是报错：请问，FastAPI如何获取到前端上传的二进制文件并且返回（可以对其进行打印）？2 回答2.2k 阅读✓ 已解决
浏览器能请求到数据怎么换了api工具或是爬虫都没数据了呢？
4 回答2.5k 阅读
Python 成员变量在多个子类实例间共享，如何避免？
请教一下，Python版本为3.9.6，然后运行如下的代码，为什么会出现SlaveTwo类的对象modelTwo打印自身的成员变量storeDataArr的结果是['data1', 'data2']，不应该是['data2']？3 回答895 阅读✓ 已解决
没太听懂，“ES 方面是循环这个列表，每次取 500 条批量插入到 ES 中” es自己导入新库？
处理慢就多开进程，问题应该是 es如何高效写入 吧 我也不会 百度吧