我在DolphinDB GUI中执行下列代码:
x=table(103.6994 103.6994 as a,`a`a as b)
select 100-(first(a*100)/last(a)) as res from x group by b
这个计算结果给我返回了-0,为什么会带一个负号?
我在DolphinDB GUI中执行下列代码:
x=table(103.6994 103.6994 as a,`a`a as b)
select 100-(first(a*100)/last(a)) as res from x group by b
这个计算结果给我返回了-0,为什么会带一个负号?
浮点数有一定的精度误差,你可以用round指定保留小数位数。例如:
x=table(103.6994 103.6994 as a,`a`a as b)
select round(100-(first(a*100)/last(a)),8) as res from x group by b
1 回答2.4k 阅读✓ 已解决
1 回答2.3k 阅读✓ 已解决
1 回答2.4k 阅读
你可以先看看
的结果,因为精度的原因它的值可能大于100