DIY主题讨论9:浮点数

171 阅读2分钟

【DIY主题讨论9:浮点数】

1)包装类Float中为什么有两个常量来表示最小值:MIN_VALUE和MIN_NORMAL? MIN_NORMAL = 2^(-126): A constant holding the smallest positive nonzero value of type 最小正非零值,对应于IEEE754浮点数标准 MIN_VALUE = 2^(-149): A constant holding the smallest positive nonzero value of type 最小正标准值 ,非标准 2)double a = 1.0-0.9的结果不精确等于0.1,为什么? 单精度浮点数的表示:第一位符号位,0表示正数,1表示负数,后8位指数位,后23位有效数字 双精度浮点数的表示:第一位符号位,0表示正数,1表示负数,后11位指数位,后52位有效数字 计算结果:0.09999999999999998 1.0的二进制表示: 1 11111111100 00000000000000000000000000000000000000000000000000 尾数补码:00000000000000000000000000000000000000000000000000 -0.9的二进制表示(1100其实是无限循环的): 1 01111111110 1100110011001100110011001100110011001100110011001101 尾数补码: 1 01111111110 00011001100110011001100110011001100110011001100110011 对阶,以1023准,-0.9变成 1 01111111111 10001100110011001100110011001100110011001100110011001 在对阶的过程中发生了精度丢失 拓展:float 1.0f-0.9f = 0.100000024 总结:浮点数在运算时,对阶会发生尾数移位,移位导致了数据表示的精度偏差,进而导致结果偏差