如题~
如何彻底根除浮点数运算精度问题?
用四舍五入在钱方面不太合理
用*100再/100的方式,在遇到特殊数值的时候还是会出现精度问题
如题~
如何彻底根除浮点数运算精度问题?
用四舍五入在钱方面不太合理
用*100再/100的方式,在遇到特殊数值的时候还是会出现精度问题
10 回答11.3k 阅读
5 回答4.9k 阅读✓ 已解决
4 回答3.2k 阅读✓ 已解决
2 回答2.8k 阅读✓ 已解决
3 回答2.4k 阅读✓ 已解决
3 回答2.2k 阅读✓ 已解决
2 回答2.7k 阅读✓ 已解决
题主还记得
0.1+0.2!= 0.3
吗?因为 JS 采用 IEEE 754 双精度版本(64位),并且只要采用 IEEE 754 的语言都有该问题。计算机表示十进制是采用二进制表示的,整数除以2,商继续除以2,得到0为止,将余数逆序排列;小数乘以2,取整,小数部分继续乘以2,取整,得到小数部分0为止,将整数顺序排列。比如22的二进制是10110;0.8125的二进制是0.1101。所以,0.4的二进制:
0.4 = 0.01100110(0110)
((0110) 表示循环),是无限循环的二进制。解决方法:可以利用toFixed() 方法,该方法可把 Number 四舍五入为指定小数位数的数字:parseFloat((65.4*100).toFixed(10))
楼主可以看看这个链接:几道高级前端面试题解析
希望可以帮到你。