欢迎关注作者微信公众号:编程大椰子
今天下午跑单元测试报错,发现一个关于 new BigDecimal(double val) 的代码问题,总结下。
问题
业务代码:
/**
* 校验价格是否一致
*
* @param frontPrice 前端商品价格
* @param realPrice 商品系统价格
* @return boolean true 相等
*/
public static boolean comparePrice(BigDecimal frontPrice, BigDecimal realPrice) {
return frontPrice.compareTo(realPrice) == 0;
}
测试代码:
/**
* 前端价格
*/
BigDecimal forntPrice = new BigDecimal(0.2);
然后测试 comparePrice 方法总是返回 false,frontPrice 和 realPrice 明明是相等的, 都是0.2。
经过断点排查问题发现 frontPrice 的值不是 0.2,而是 0.200000000000000011102230246251565404236316680908203125 。
我靠,怎么出现这种情况,BigDecimal 不是精准运算的吗?
解决
查看相关文档:
简单翻一下:
将 double 类型转换成 BigDecimal 类型。
- 这个构造函数的结果在某种程度上是不可预测的。你可能会觉得
new BigDecimal(0.1)会创建一个刚好等于 0.1 的 BigDecimal,但它实际上等于 0.1000000000000000055511151231257827021181583404541015625 。这是因为 0.1 不能被精确地表示为一个双精度数。 - String 构造函数是完全可预测的,
new BigDecimal("0.1")会创建一个完全等于 0.1 的 BigDecimal,建议优先使用 String 构造函数。 - 如果必须使用 double 作为转换源时,可以使用
BigDecimal.valueOf(0.1),它返回的结果也是精确的。
总结
将 double 类型转换为 BigDecimal 类型的时候,不要使用 new BigDecimal(0.1) 这个构造函数,应为它得到的结果是不精确的,
使用 BigDecimal.valueOf(0.1) 或 new BigDecimal("0.1") 。
使用 IDEA 编码的时候会给警告提示:
我正在参与掘金技术社区创作者签约计划招募活动,点击链接报名投稿。