问个简单的数学问题 - swift

Question

为什么不等于0啊
我看半天没看出问题

//: Playground - noun: a place where people can play

import UIKit

func radToDeg(rad: Double) -> Double {
    return (M_PI * rad) / 180
}

var resp: Double = (tan(radToDeg(rad: 30)) * 12.99) * 2

14.99955999354647 - resp


var resp_o: Double = 14.99955999354647

14.99955999354647 - resp_o

Answer 1

计算机内的浮点数会有精度问题，所以一般判断相等会取|a - b| < epsilon，epsilon取10^-6左右。浮点数存储可参考IEEE 754。在计算机组成原理中，有讲到过浮点数加减、上溢、下溢问题。

Answer 2

这个应该和 double 在计算机内的存储方式有关

Answer 3

右侧显示的，并不一定是和内存中完全一样的值…… 如果小数点后面有200位它难道也要显示 200 位么？

Answer 4

你应该去了解一下，计算机是怎么表示浮点数。然后就什么都明白了，所有的语言都会遇到类似的问题。