猿问

python精度问题?

Python2.7.9(default,Dec102014,12:28:03)[MSCv.150064bit(AMD64)]onwin32
>>>print'%.100f'%(9999.0/10000)
0.9999000000000000110134124042815528810024261474609375000000000000000000000000000000000000000000000000
从原理上阐述下为什么产生这样的误差?
侃侃尔雅
浏览 577回答 2
2回答

POPMUISE

可以参考IEEE的浮点数标准浮点数在计算机中的存储往往采取这个标准,其只能精确表示2^x的倍数,而除此之外的其它数字只能尽量逼近.因此使用浮点数是会有误差的.
随时随地看视频慕课网APP

相关分类

JavaScript
我要回答