猿问

为什么在java中 2.0-1.1=0.899999... 但是2.0-0.1却可以=1.9?

已经了解过1.1和0.1的二进制转换,但是0.1和1.1一样小数部分在二进制中同样是无法表现完全的,为何2.0-0.1可以表现清楚???

暮色呼如
浏览 1162回答 4
4回答

泛舟湖上清波郎朗

用10进制打一个比方,有一个10进制存储的浮点数,可以保持4位尾数50/11和16/11分别是4.5455和1.4545,前者因为后面的尾数5所以导致了进位,对吧二进制也是一样0.1(dec) = 0.0001100110011001100...(bin)那么要看尾数最后一位是多少,如果卡到00上面,那么舍去的比较多,就会出现9999,如果卡在11,舍去的比较少,就正好是1,9了明白了么

胡子哥哥

0.0问题看错了,我也试了下,真的诶,好奇怪

不负相思意

计算机上的浮点类型会产生一定的精度误差

狐的传说

没有你这样的情况哦
随时随地看视频慕课网APP

相关分类

Java
我要回答