VS的Bug?
0.8-0.08=0.7200000****8?
呼唤远方浏览 469回答 2
2回答
-
大话西游666
去找找浮点数在内存中的存储方式看看就明白了，主要是由于十进制转换二进制后存储到内存中有一些位的强制性舍去造成的 -
梦里花落0921
浮点数精度问题，一切IEEE标准的浮点数都有这问题，不是任何IDE或者语言层面的事
随时随地看视频慕课网APP
0.8-0.08=0.7200000****8?
呼唤远方
大话西游666
梦里花落0921
随时随地看视频慕课网APP
.NET