有2万个文件的数据要写入postgresql数据库,通常的做法用一个循环写入2万次,可否减少写入次数,提高运行效率?
文件合并的做法不可取,这些文件分成不同的类型,调用不同的解析程序。
有2万个文件的数据要写入postgresql数据库,通常的做法用一个循环写入2万次,可否减少写入次数,提高运行效率?
文件合并的做法不可取,这些文件分成不同的类型,调用不同的解析程序。
我觉得还是官方文档的总结全面又准确:
2 回答961 阅读✓ 已解决
2 回答1.9k 阅读
2 回答847 阅读✓ 已解决
1 回答1.5k 阅读
1 回答902 阅读✓ 已解决
1 回答884 阅读✓ 已解决
1 回答735 阅读✓ 已解决
提供几个思路吧;
您可以通过一些方法来减少写入次数从而提高运行效率。以下是一些常见方法:
批量写入:把数据缓存到内存中,然后一次写入多条记录,而不是每次写入一条记录。
使用COPY命令:PostgreSQL提供了COPY命令,可以快速地将大量数据从文件导入到数据库中。
使用存储过程:可以使用存储过程来批量写入数据,并避免频繁打开和关闭数据库连接。
使用数据库连接池:使用数据库连接池可以避免频繁打开和关闭数据库连接,从而提高写入效率。
通过采用上述方法,您可以减少写入次数并有效提高写入效率。