为什么计算结果返回-0

我在DolphinDB GUI中执行下列代码:

x=table(103.6994 103.6994 as a,`a`a as b)
select 100-(first(a*100)/last(a)) as res from x group by b

这个计算结果给我返回了-0,为什么会带一个负号?

阅读 1.7k
2 个回答

你可以先看看

first(a*100)/last(a)

的结果,因为精度的原因它的值可能大于100

浮点数有一定的精度误差,你可以用round指定保留小数位数。例如:

x=table(103.6994 103.6994 as a,`a`a as b)
select round(100-(first(a*100)/last(a)),8) as res from x group by b
撰写回答
你尚未登录,登录后可以
  • 和开发者交流问题的细节
  • 关注并接收问题和回答的更新提醒
  • 参与内容的编辑和改进,让解决方法与时俱进