tensorflow的reduce_mean()给出一个近似值（不是精确值）

Question

我正在制作一个损失函数，我在其中使用了tf.reduce_mean(). 但它返回一个近似值。

我的代码如下：

import tensorflow as tf

real = [[1.0], [0.3]]

pred = [[0.8], [0.2]]

loss_object2 = tf.keras.losses.mean_squared_error

def loss_function(real, pred):

    loss_ = loss_object2(real, pred)

    print(loss_)

    return tf.reduce_mean(loss_)

loss_function(real, pred)

给出以下输出：

tf.Tensor([0.04 0.01], shape=(2,), dtype=float32)

<tf.Tensor: shape=(), dtype=float32, numpy=0.024999999>

这应该只是回归0.025，为什么要回归0.024999999？

Answer 1

IEEE 754-2008 浮点运算标准的第 3.2 条说“浮点运算是实数运算的系统近似……”浮点运算旨在逼近实数运算。如果没有对浮点格式和算术规则有透彻的理解，就不要指望得到准确的结果。在用于 的 IEEE 754 binary32 格式中float32，最接近 .04 的可表示值是 0.039999999105930328369140625 (5368709•2&nbsp;−27&nbsp;)。最接近 .01 的可表示值是 0.00999999977648258209228515625 (5368709•2&nbsp;-29&nbsp;)。当使用 IEEE 754 规则将它们相加并除以二时，结果为 0.024999998509883880615234375 (3355443•2&nbsp;-27&nbsp;)。