正确认识浮点数

2017-02-16
阅读 2 分钟
4.2k
大家在日常开发中,必然使用过浮点数,也会发现浮点数不是精确的,那究竟是什么原因造成的呢? 奇怪的结果 {代码...} 很奇怪吧!1-0.9怎么能不等于0.1呢?这是为什么呢?这要从浮点数的储存标准开始说。 IEEE 754 浮点数在计算机中是根据IEEE 754(二进制浮点数算数标准)储存的。计算公式为: (-1)^S x M x 2^E 32位单精度...