例如,当输入float或double类型的数78.88776时,将其变成int类型并乘以1e5后,再转为2进制码时,得到11110000101111110000111,这串数字再转回为十进制时为7888775,与想要获得的正确数字有1的误差,应如何避免呢?
补充:
可以用个笨办法自己写个四舍五入
int i = 0;
if(f>0) //正数
i = (f*10 + 5)/10;
else if(f<0) //负数
i = (f*10 - 5)/10;
else i = 0;
return i;
用 BigDecimal 来处理相关问题。BigDecimal 可以任意指定精度来处理数字。相关文章:
http://www.opentaps.org/docs/...