继续浏览精彩内容
慕课网APP
程序员的梦工厂
打开
继续
感谢您的支持,我会继续努力的
赞赏金额会直接到老师账户
将二维码发送给自己后长按识别
微信支付
支付宝支付

程序员是如何在不知不觉中弄丢银行的一分钱的

林湾村龙猫
关注TA
已关注
手记 2
粉丝 0
获赞 2

我们跟某银行合作共同开发了适合我们的一套支付系统。

今天,我们对账发现某些订单始终都对不齐。银行的下单金额与对账金额始终少了1分钱。

这就奇怪了,如果这种异常订单一多就是少了很多钱。在涉及钱的金融领域,这是个很谨慎严肃的问题。

我们跟银行排查发现了问题的原因,也就是我今天想聊的关于技术上的东西:double精度的丢失问题

问题复现

我们先举个简单的例子

double result = 1.0 - 0.9;

这段代码中result等于多少?0.1么?如果执行代码的话,分分钟打脸。

double精度丢失问题

背后原理

无论是我们本文提到的double,还是float,都是浮点数。

在计算机科学中,浮点(英语:floating point,缩写为FP)是一种对于实数的近似值数值表现法,由一个有效数字(即尾数)加上幂数来表示,通常是乘以某个基数的整数次指数得到。以这种表示法表示的数值,称为浮点数(floating-point number)。

计算机使用浮点数运算的主因,在于计算机使用二进位制的运算。

例如:4÷2=2,4=100(二进制)、2=010(二进制)。在二进制中除以2相当于退一位数。

那么1.0÷2=0.5=0.1(二进制)也就是1/2,依此类推二进制的0.01(二进制)就是十进制 1/(2^2) = 1/4 = 0.25。

上面看到的1、0.5、0.25那都是可以转换成二进制的小数,如十进制的0.1,就无法用二进制准确的表示出来。因此只能使用近似值的方式表达。

比如,我们尝试着把10进制的0.1转化成二进制试试,步骤如下:

0.1*2=0.2……0——整数部分为“0”。整数部分“0”清零后为“0”,用“0.2”接着计算。
0.2*2=0.4……0——整数部分为“0”。整数部分“0”清零后为“0”,用“0.4”接着计算。
0.4*2=0.8……0——整数部分为“0”。整数部分“0”清零后为“0”,用“0.8”接着计算。
0.8*2=1.6……1——整数部分为“1”。整数部分“1”清零后为“0”,用“0.6”接着计算。
0.6*2=1.2……1——整数部分为“1”。整数部分“1”清零后为“0”,用“0.2”接着计算。
0.2*2=0.4……0——整数部分为“0”。整数部分“0”清零后为“0”,用“0.4”接着计算。
0.4*2=0.8……0——整数部分为“0”。整数部分“0”清零后为“0”,用“0.8”接着计算。
0.8*2=1.6……1——整数部分为“1”。整数部分“1”清零后为“0”,用“0.6”接着计算。
0.6*2=1.2……1——整数部分为“1”。整数部分“1”清零后为“0”,用“0.2”接着计算。
0.2*2=0.4……0——整数部分为“0”。整数部分“0”清零后为“0”,用“0.4”接着计算。
0.4*2=0.8……0——整数部分为“0”。整数部分“0”清零后为“0”,用“0.2”接着计算。
0.8*2=1.6……1——整数部分为“1”。整数部分“1”清零后为“0”,用“0.2”接着计算。
……

可以发现,这个过程是除不尽的,除出了一个无限循环小数:二进制的 0.0001100110011…

那么,如何在计算机中表示这个无限不循环的小数呢?只能考虑按照不同的精度保理不同的位数。

我们知道float是单精度的,double是双精度的。不同的精度,其实就是保留的有效数字位数不同,保留的位数越多,精度越高。

所以,浮点数在Java中是无法精确表示的,因为大部分浮点数转换成二进制是一个无限不循环的小数,只能通过保留精度的方式进行近似表示。

在《阿里巴巴Java开发手册》中其实也有着明确的规定,说明了小数类型禁止使用float或者double来表示。(虽然这条是Mysql相关规则,但是Java代码同样适用。)

image

问题引申

我们现在基本已经知道了double的精度问题是什么问题。

在实际的订单交易过程中,出现这个问题的更多场景是金额单位元与分的转换。银行给你的单位是元,你自己的运算是分;前端输入是元,计算是分等等。

举个例子:用户下了一笔64.6元的订单,你在需要转换成分。如果直接除以100,你会发现计算出来的分始终是6459,少1分钱。

金额丢失1分问题

解决方式

1.使用BigDecimal

为了解决这种浮点小数进度丢失问题,java提供了一种计算方式BigDecimal。

BigDecimal

这样就可以了么?
不是,这样能解决大部分问题,假如其他系统或语言不支持BigDecimal呢。当我们无法解决这个问题的时候,我们需要做的是想办法规避这个问题带来的影响。

2.以分为单位,Long为数据结构存储

目前我们某些核心系统在金额传输的过程和存储中还是以元存储浮点数。导致低于10元的订单计算利息费率的时候,无法计算清楚,使得我们的业务服务在处理这些问题头疼死了。

整数与整数的计算,就没有这些精度丢失问题。Long取值范围(9223372036854775807)完全够用。

3.除不尽怎么办

对于除法,始终会产生除不尽的情况怎么办?有个词叫轧差

什么意思呢?举个简单例子。假如现在需要把10元分成3分,如果是10除以3这么除,会发现为3.33333无穷尽的3。这些数字完全无法在程序或数据库中进行精确的存储。

image.png

简单理解就是,当除不尽或需去除小数点的时候,前面的n-1笔(这里n=3)做四舍五入。最后一笔做兜底(总金额减去前面n-1笔之和)。这样保证总金额的不会丢失。

这里我们的具体应用场景是用户使用了现金券,然后有部分退款,计算应退本金的问题。现金券的处理又是一大篇文章,这里以后有机会再介绍。

关于金额的总结

  1. 能用Long不用浮点数存储。
  2. 前后端传输金额(元)的时候,请使用字符串,不要使用浮点数。
  3. 浮点数运算请使用BigDecimal。
  4. 实在无法除尽,可以考虑通过轧差的方式解决。

double精度不是坑,是个容易忽视的巨坑,小小经验希望对大家有所帮助,谨慎对待。>-<

关于银行1分差的问题,等待银行修复,历史订单做调账处理,哈哈哈哈哈。

打开App,阅读手记
1人推荐
发表评论
随时随地看视频慕课网APP