猿问
回到首页
个人中心
反馈问题
注册登录
下载APP
首页
课程
实战
体系课
手记
专栏
慕课教程
Ruby中怎么解决Float型十进制小数运算问题?
Ruby中怎么解决Float型十进制小数运算问题
开心每一天1111
浏览 990
回答 1
1回答
慕的地10843
在计算机几内部,小数不是按照四舍五入的方法的。因为计算机只有0和1,没有4和5,所以不能四舍五入的。 不管是float还是double,在处理末位时都是直接丢弃的。比如一个小数,应该是用33位二进制码才能完全表示的,但是float只有32位
0
0
0
打开App,查看更多内容
随时随地看视频
慕课网APP
相关分类
Ruby
继续浏览精彩内容
慕课网APP
程序员的梦工厂
打开
继续