dart中如何进行浮点数的精确计算?

luoyelusheng

最近flutter很火,火的几乎周边的小伙伴都开始学习这个跨平台新框架,作为一名优秀的前端折腾师,那肯定的赶紧学起来了,但是在浮点数计算的时候,却遇到了与前端同样的问题,精度舍入问题。

举个栗子:

0.1 + 0.2 = 0.30000000000000004

1.0 - 0.9 = 0.09999999999999998

0.105.toStringAsFixed(2) = 0.1 // not 0.11

具体的原因这里不再叙述,读者可自行Google。

那在前端领域一般我们都是使用第三方库进行浮点数的计算,这里笔者经常使用的库则是number-precision,这个库的核心思想是使用放大缩小法进行精度的准确计算,譬如 0.1 + 0.2我们可以转换为1 + 2等于3,然后我们将其再缩小10倍就可以得到0.3,因为整数的计算是没有精度问题的,所以刚好可以巧妙的解决这个问题。

dart中我们可以同样使用这个放大缩小法进行浮点数的准确计算,在这里为了方便前端开发人员无缝切入,笔者基于number-precisionapi进行抽象封装开发了number_precisiondart版本,现已正式发布1.0.0版本,欢迎广大读者进行安装使用,语法糖保持和number-precision一模一样,轻量简洁且不依赖第三方库。

安装使用

找到项目的 pubspec.yaml文件,添加以下代码:

dependencies:
  number_precision: ^1.0.0+1

方法

NP.strip(num)         // 将浮点数矫正为正确的小数
NP.plus(num1, num2, [num3, ...])   // 加法, num + num2 + num3, 第一二参数为必选项
NP.minus(num1, num2, [num3, ...])  // 减法, num1 - num2 - num3
NP.times(num1, num2, [num3, ...])  // 乘法, num1 * num2 * num3
NP.divide(num1, num2, [num3, ...]) // 除法, num1 / num2 / num3
NP.round(num, ratio)  // 保留ratio位小数

使用

import 'package:number_precision/number_precision.dart';

NP.strip(0.09999999999999998); // = 0.1
NP.plus(0.1, 0.2);             // = 0.3, not 0.30000000000000004
NP.plus(2.3, 2.4);             // = 4.7, not 4.699999999999999
NP.minus(1.0, 0.9);            // = 0.1, not 0.09999999999999998
NP.times(3, 0.3);              // = 0.9, not 0.8999999999999999
NP.times(0.362, 100);          // = 36.2, not 36.199999999999996
NP.divide(1.21, 1.1);          // = 1.1, not 1.0999999999999999
NP.round(0.105, 2);            // = 0.11, not 0.1

开源不易,欢迎pr以及star,项目地址number_precision,如有错误,愿不吝赐教。

阅读 826
28 声望
0 粉丝
0 条评论
你知道吗?

28 声望
0 粉丝
宣传栏