浮点数精度问题

图片描述

看到很多地方都说 23 位尾数决定单精度浮点数十进制精度为7位,有点疑惑。23位二进制只能说明二进制尾数位 1.M 的 M 可表示 2^23 个数,怎么能决定十进制的小数点后可精确 7 位呢?请大神指点一下!

阅读 2.6k
1 个回答

2^23=8388608 —— 共7位

撰写回答
你尚未登录,登录后可以
  • 和开发者交流问题的细节
  • 关注并接收问题和回答的更新提醒
  • 参与内容的编辑和改进,让解决方法与时俱进
宣传栏