猿问
Ruby中怎么解决Float型十进制小数运算问题?
Ruby中怎么解决Float型十进制小数运算问题
开心每一天1111
浏览 999
回答 1
1回答
慕的地10843
在计算机几内部,小数不是按照四舍五入的方法的。因为计算机只有0和1,没有4和5,所以不能四舍五入的。 不管是float还是double,在处理末位时都是直接丢弃的。比如一个小数,应该是用33位二进制码才能完全表示的,但是float只有32位
0
0
0
随时随地看视频
慕课网APP
相关分类
Ruby
我要回答