float精度问题

请教下,DolphinDB database中数据类型选择float,存的时候会出现43.110001这种(本来是43.11),有什么办法解决吗?

阅读 1.4k
1 个回答

单精度的精度较低,可换用double。
或者最后的结果用round(x, 2)

撰写回答
你尚未登录,登录后可以
  • 和开发者交流问题的细节
  • 关注并接收问题和回答的更新提醒
  • 参与内容的编辑和改进,让解决方法与时俱进