猿问

python,js里 浮点数*整数时 内部做了什么操作?

print(((10659.32 - 10000) * 100))

print((10659.33 - 10000) * 100)

print((10659.34 - 10000) * 100)

print((10659.35 - 10000) * 100)


print((10659.32 * 100 - 10000 * 100) * 1)

print((10659.33 * 100 - 10000 * 100) * 1)

print((10659.34 * 100 - 10000 * 100) * 1)

print((10659.35 * 100 - 10000 * 100) * 1)

65931.99999999997

65933.0

65934.00000000001

65935.00000000003

65932.0

65933.0

65934.0

65935.0

在我看来,前一个是浮点*整数,后一个变成了是整数相减的运算。

浮点数在运算后,内部会执行类似 result = (int)result的函数,来判断是否将浮点数修改为整数吗?

有点懵,求指教。谢谢


不负相思意
浏览 540回答 2
2回答

烙印99

不会。忠实地按照表达式提升数据类型做运算。不要试图评价不同途径算出来的浮点数为什么不完全一致。差值小于eps的两个值你就可以认为是相等的。另外你这个不但是浮点数的精度问题,还有打印的精度问题。记住,浮点数领域不能要求绝对相等。

慕桂英4014372

如果不显式的指明 ,运算中不会 把浮点数转换为整数,但在计算需要时会默认把整数转换成浮点数。浮点数不能直接用相等来比较,一般是比较差的绝对值在一个范围内算相等。
随时随地看视频慕课网APP

相关分类

JavaScript
我要回答