BigDecimal使用不当,造成P0事故!

肉眼品世界

共 1817字,需浏览 4分钟

 ·

2022-06-08 01:25

文章来源:https://c1n.cn/MSqAy


目录
  • 背景

  • 事故

  • 分析

  • 总结

  • 工具分享


背景


我们在使用金额计算或者展示金额的时候经常会使用 BigDecimal,也是涉及金额时非常推荐的一个类型。


BigDecimal 自身也提供了很多构造器方法,这些构造器方法使用不当可能会造成不必要的麻烦甚至是金额损失,从而引起事故资损。


事故


接下来我们看下收银台出的一起事故。


| 问题描述

收银台计算商品金额报错,导致订单无法支付。


| 事故级别

P0


| 事故过程

如下:

  • 13:44,接到报警,订单支付失败,支付可用率降至 60%

  • 13:50,迅速回滚上线代码,恢复正常

  • 14:20,review 代码,预发布验证发现问题点

  • 14:58,修改问题代码上线,线上恢复


| 故障原因

BigDecimal 在金额计算中丢失精度。


原因分析


首先我们先用一段代码复现问题根源,如下所示:

public static void main(String[] args{
    BigDecimal bigDecimal=new BigDecimal(88);
    System.out.println(bigDecimal);
    bigDecimal=new BigDecimal("8.8");
    System.out.println(bigDecimal);
    bigDecimal=new BigDecimal(8.8);
    System.out.println(bigDecimal);
}


执行结果如下:

通过测试发现,当使用 double 或者 float 这些浮点数据类型时,会丢失精度,String、int 则不会,这是为什么呢?


我们点开构造器方法看下源码:

public static long doubleToLongBits(double value{
    long result = doubleToRawLongBits(value);
    // Check for NaN based on values of bit fields, maximum
    // exponent and nonzero significand.
    if ( ((result & DoubleConsts.EXP_BIT_MASK) ==
          DoubleConsts.EXP_BIT_MASK) &&
         (result & DoubleConsts.SIGNIF_BIT_MASK) != 0L)
        result = 0x7ff8000000000000L;
    return result;
}


问题就处在 doubleToRawLongBits 这个方法上,在 jdk 中 double 类(float 与 int 对应)中提供了 double 与 long 转换,doubleToRawLongBits 就是将 double 转换为 long,这个方法是原始方法(底层不是 java 实现,是 c++ 实现的)。


double 之所以会出问题,是因为小数点转二进制丢失精度。

BigDecimal 在处理的时候把十进制小数扩大 N 倍让它在整数上进行计算,并保留相应的精度信息。


float 和 double 类型,主要是为了科学计算和工程计算而设计的,之所以执行二进制浮点运算,是为了在广泛的数值范围上提供较为精确的快速近和计算。


并没有提供完全精确的结果,所以不应该被用于精确的结果的场合。


当浮点数达到一定大的数,就会自动使用科学计数法,这样的表示只是近似真实数而不等于真实数。


当十进制小数位转换二进制的时候也会出现无限循环或者超过浮点数尾数的长度。


总结


所以,在涉及到精度计算的过程中,我们尽量使用 String 类型来进行转换。


推荐阅读:

世界的真实格局分析,地球人类社会底层运行原理

不是你需要中台,而是一名合格的架构师(附各大厂中台建设PPT)

亿级(无限级)并发,没那么难

论数字化转型——转什么,如何转?

华为干部与人才发展手册(附PPT)

企业10大管理流程图,数字化转型从业者必备!

【中台实践】华为大数据中台架构分享.pdf

华为的数字化转型方法论

华为如何实施数字化转型(附PPT)

超详细280页Docker实战文档!开放下载

华为大数据解决方案(PPT)


浏览 13
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报