请教,后面这个比较已经是round取2位小数,为何结果还是不相等
如同下面图中
这种情况下如何 用loadtextEX如何确保入库后的数据和原始数据保持一样的精度?
请教,后面这个比较已经是round取2位小数,为何结果还是不相等
如同下面图中
这种情况下如何 用loadtextEX如何确保入库后的数据和原始数据保持一样的精度?
6 回答3.3k 阅读✓ 已解决
4 回答2k 阅读
3 回答1.1k 阅读✓ 已解决
1 回答1.3k 阅读✓ 已解决
2 回答2.5k 阅读
1 回答1k 阅读✓ 已解决
2 回答958 阅读✓ 已解决
浮点数有细微精度误差,浮点数比较不能直接用等号,应该两者相减之差取绝对值后,与0.01(根据精度要求不同取不同值)比较,比如例子中可为abs(data[0]-32.24)<0.01。 DolphinDB中提供了eqFloat函数方便用户。