问题
1、数字长度超过16位,数值精度丢失
2、小数相加,数值精度丢失
Number
- 在js中,数值类型就是number
- 采用的是IEEE754规范中的64位双精度浮点数编码
- 存储结构优点是归一化处理整数和小数,节省储存空间
- 整数很容易转换成二进制,但还是有大小的限制,2**53
- 小数的小数点位置不是固定的,所以使用二进制的科学计数法
小数
- 计算机存储小数,会先将十进制转换为二进制的科学计数法
- 然后,计算机按照自己的规则存储二进制的科学计数法
- 因为存储有位数限制,并且有些转换为二进制时会陷入无限循环,会造成二进制的舍入操作,那自然就会有精度问题了
解决方法
1、字符串
2、BigInt
因为number的基本类型不能超过2^53,不然就会精度丢失,
为了解决这个限制,在ECMAScript标准中出现了BigInt;
数字后面加n
数字相加精度丢失 0.1+0.2 0.3-0.1
原因 这个问题的主要原因是计算机将数据存储为二进制。
例如:
- 0.1 也就是0.0001100110011001100110011001100110011001100110011001101
- 0.2 也就是0.001100110011001100110011001100110011001100110011001101
并非每个十进制数都可以用这种二进制格式完美表示,因为有些数字可能转成
JavaScript 在计算时,会先将10进制转为二进制,然后进行计算。