猿问

VS的Bug?

0.8-0.08=0.7200000****8?

呼唤远方
浏览 469回答 2
2回答

大话西游666

去找找浮点数在内存中的存储方式看看就明白了,主要是由于十进制转换二进制后存储到内存中有一些位的强制性舍去造成的

梦里花落0921

浮点数精度问题,一切IEEE标准的浮点数都有这问题,不是任何IDE或者语言层面的事
随时随地看视频慕课网APP
我要回答