请教在dolphindb中,load数据已经是通过round取2位小数,为何结果和预期还是不相等?

请教,后面这个比较已经是round取2位小数,为何结果还是不相等

如同下面图中

image.png

这种情况下如何 用loadtextEX如何确保入库后的数据和原始数据保持一样的精度?

阅读 1.3k
1 个回答

浮点数有细微精度误差,浮点数比较不能直接用等号,应该两者相减之差取绝对值后,与0.01(根据精度要求不同取不同值)比较,比如例子中可为abs(data[0]-32.24)<0.01。 DolphinDB中提供了eqFloat函数方便用户。

撰写回答
你尚未登录,登录后可以
  • 和开发者交流问题的细节
  • 关注并接收问题和回答的更新提醒
  • 参与内容的编辑和改进,让解决方法与时俱进
推荐问题
logo
101 新手上路
子站问答
访问
宣传栏