每种浮点型数据之间的微妙差异

2022-08-23 58 阅读1分钟

不同浮点型的使用场景

float 和 double 值在内部以二进制格式存储，而 decimal 以十进制格式存储。通常，二进制浮点值的数学运算结果是实际值的近似值。如果需要更精确的答案，应使用 decimal。 decimal 类型的每个值都具有比较大的内存占用量，但执行数学运算可提供更精确的结果。因此，在处理财务数据时或在任何需要通过计算得出精确结果的场景下，应使用 decimal。

不同浮点型的最值

    Console.WriteLine($"float  : {float.MinValue} to {float.MaxValue}");
    Console.WriteLine($"double : {double.MinValue} to {double.MaxValue}");
    Console.WriteLine($"decimal: {decimal.MinValue} to {decimal.MaxValue}");