BigDecimal使用不当,造成P0事故!

程序IT圈

共 2570字,需浏览 6分钟

 ·

2022-06-12 20:04

点击关注公众号,Java干货及时送达👇

文章来源:https://c1n.cn/MSqAy


目录
  • 背景

  • 事故

  • 分析

  • 总结

  • 工具分享


背景


我们在使用金额计算或者展示金额的时候经常会使用 BigDecimal,也是涉及金额时非常推荐的一个类型。


BigDecimal 自身也提供了很多构造器方法,这些构造器方法使用不当可能会造成不必要的麻烦甚至是金额损失,从而引起事故资损。


事故


接下来我们看下收银台出的一起事故。


| 问题描述

收银台计算商品金额报错,导致订单无法支付。


| 事故级别

P0


| 事故过程

如下:

  • 13:44,接到报警,订单支付失败,支付可用率降至 60%

  • 13:50,迅速回滚上线代码,恢复正常

  • 14:20,review 代码,预发布验证发现问题点

  • 14:58,修改问题代码上线,线上恢复


| 故障原因

BigDecimal 在金额计算中丢失精度。


原因分析


首先我们先用一段代码复现问题根源,如下所示:

public static void main(String[] args{
    BigDecimal bigDecimal=new BigDecimal(88);
    System.out.println(bigDecimal);
    bigDecimal=new BigDecimal("8.8");
    System.out.println(bigDecimal);
    bigDecimal=new BigDecimal(8.8);
    System.out.println(bigDecimal);
}


执行结果如下:

通过测试发现,当使用 double 或者 float 这些浮点数据类型时,会丢失精度,String、int 则不会,这是为什么呢?


我们点开构造器方法看下源码:

public static long doubleToLongBits(double value{
    long result = doubleToRawLongBits(value);
    // Check for NaN based on values of bit fields, maximum
    // exponent and nonzero significand.
    if ( ((result & DoubleConsts.EXP_BIT_MASK) ==
          DoubleConsts.EXP_BIT_MASK) &&
         (result & DoubleConsts.SIGNIF_BIT_MASK) != 0L)
        result = 0x7ff8000000000000L;
    return result;
}


问题就处在 doubleToRawLongBits 这个方法上,在 jdk 中 double 类(float 与 int 对应)中提供了 double 与 long 转换,doubleToRawLongBits 就是将 double 转换为 long,这个方法是原始方法(底层不是 java 实现,是 c++ 实现的)。


double 之所以会出问题,是因为小数点转二进制丢失精度。

BigDecimal 在处理的时候把十进制小数扩大 N 倍让它在整数上进行计算,并保留相应的精度信息。


float 和 double 类型,主要是为了科学计算和工程计算而设计的,之所以执行二进制浮点运算,是为了在广泛的数值范围上提供较为精确的快速近和计算。


并没有提供完全精确的结果,所以不应该被用于精确的结果的场合。


当浮点数达到一定大的数,就会自动使用科学计数法,这样的表示只是近似真实数而不等于真实数。


当十进制小数位转换二进制的时候也会出现无限循环或者超过浮点数尾数的长度。


总结


所以,在涉及到精度计算的过程中,我们尽量使用 String 类型来进行转换。

推荐阅读

• 仅花 2 小时,网站就搭建好了,贼溜 ~• 你的服务器还好吗?全球已超360万台暴露在互联网上• Istio 可以代替 Spring Cloud 吗?• 网络丢包,网络延迟?这款神器帮你搞定所有!

<END>


程序员技术交流群

有不少同学问我,大厂面试官到底喜欢问什么?想进大厂镀金。因此,我特意邀请了华为、腾讯、阿里的朋友进群,与大家一起交流经验,增长技术。

有兴趣入群的同学,可长按扫描下方二维码,一定要备注:城市+昵称+技术方向,根据格式备注,可更快被通过且邀请进群。

▲长按扫描



END


  • 知乎/CSDN/今日头条/:@程序IT圈
  • 其他公众号号:科技曼、科技禅
  • 个人网站 :https://www.cxyquan.com/

微信公众号官方矩阵

点分享

点点赞

点在看

浏览 12
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报