Ruby中怎么解决Float型十进制小数运算问题?

Ruby中怎么解决Float型十进制小数运算问题


开心每一天1111
浏览 875回答 1
1回答

慕的地10843

在计算机几内部,小数不是按照四舍五入的方法的。因为计算机只有0和1,没有4和5,所以不能四舍五入的。 不管是float还是double,在处理末位时都是直接丢弃的。比如一个小数,应该是用33位二进制码才能完全表示的,但是float只有32位
打开App,查看更多内容
随时随地看视频慕课网APP

相关分类

Ruby