数字精度丢失

986 阅读1分钟

问题

1、数字长度超过16位,数值精度丢失

2、小数相加,数值精度丢失

Number

  • 在js中,数值类型就是number
  • 采用的是IEEE754规范中的64位双精度浮点数编码
  • 存储结构优点是归一化处理整数和小数,节省储存空间
  • 整数很容易转换成二进制,但还是有大小的限制,2**53
  • 小数的小数点位置不是固定的,所以使用二进制的科学计数法

小数

  • 计算机存储小数,会先将十进制转换为二进制的科学计数法
  • 然后,计算机按照自己的规则存储二进制的科学计数法
  • 因为存储有位数限制,并且有些转换为二进制时会陷入无限循环,会造成二进制的舍入操作,那自然就会有精度问题了

image.png

解决方法

1、字符串

image.png

2、BigInt

因为number的基本类型不能超过2^53,不然就会精度丢失
为了解决这个限制,在ECMAScript标准中出现了BigInt

image.png

数字后面加n

image.png

数字相加精度丢失 0.1+0.2 0.3-0.1

image.png

image.png

原因 这个问题的主要原因是计算机将数据存储为二进制。

例如:

  • 0.1 也就是0.0001100110011001100110011001100110011001100110011001101
  • 0.2 也就是0.001100110011001100110011001100110011001100110011001101

并非每个十进制数都可以用这种二进制格式完美表示,因为有些数字可能转成

JavaScript 在计算时,会先将10进制转为二进制,然后进行计算。

3、toFixed

image.png

4、将小数转换成整数进行计算(计算较麻烦)

5、mathjs

6、使用第三方库 bignumber