猿问
回到首页
个人中心
反馈问题
注册登录
下载APP
首页
课程
实战
体系课
手记
专栏
慕课教程
为什么在java中 2.0-1.1=0.899999... 但是2.0-0.1却可以=1.9?
已经了解过1.1和0.1的二进制转换,但是0.1和1.1一样小数部分在二进制中同样是无法表现完全的,为何2.0-0.1可以表现清楚???
暮色呼如
浏览 1162
回答 4
4回答
泛舟湖上清波郎朗
用10进制打一个比方,有一个10进制存储的浮点数,可以保持4位尾数50/11和16/11分别是4.5455和1.4545,前者因为后面的尾数5所以导致了进位,对吧二进制也是一样0.1(dec) = 0.0001100110011001100...(bin)那么要看尾数最后一位是多少,如果卡到00上面,那么舍去的比较多,就会出现9999,如果卡在11,舍去的比较少,就正好是1,9了明白了么
0
0
0
胡子哥哥
0.0问题看错了,我也试了下,真的诶,好奇怪
0
0
0
不负相思意
计算机上的浮点类型会产生一定的精度误差
0
0
0
狐的传说
没有你这样的情况哦
0
0
1
打开App,查看更多内容
随时随地看视频
慕课网APP
相关分类
Java
继续浏览精彩内容
慕课网APP
程序员的梦工厂
打开
继续