在微博上看到七牛官方微博发的一个图片,自己试了试果真如此。看图说话(见下图),谁能解释下呀,或者给个思路从哪里入手分析这个问题。
(我知道是溢出,但是想知道具体是怎么溢出的。)
在微博上看到七牛官方微博发的一个图片,自己试了试果真如此。看图说话(见下图),谁能解释下呀,或者给个思路从哪里入手分析这个问题。
(我知道是溢出,但是想知道具体是怎么溢出的。)
我目前正在学PYTHON,MIT的6.00有一课是专门讲这个的,解释的非常清楚。在PYTHON里,或者任保一种现代的编程语言里,float的表示方式(在64位的系统中),1位符号位,11位指数,52位底数。有些数是可以用二进制准确表示的,比如1/4,1/8(0.001),1/16。有些数是无法用二进制准确表示的1/10,PYTHON只能尽可能近似的表示,但这里面有一个位数的限制,只能表示17位的10进制数。而PYTHON会通过一个内建的REPR命令把内部表达式转化为str,然后display。
还有一点,print这个命令会默认自动的rounds
4 回答4.5k 阅读✓ 已解决
1 回答3.3k 阅读✓ 已解决
4 回答3.8k 阅读✓ 已解决
3 回答2.2k 阅读✓ 已解决
1 回答4.5k 阅读✓ 已解决
1 回答3.9k 阅读✓ 已解决
1 回答2.8k 阅读✓ 已解决
float 双精度浮点数不能精确的表示有些十进制的小数。
如果要精确计算,可以试用Decimal