为什么在这种情况下 float32 比 float64 更准确?

如果我运行以下 Go 代码:

fmt.Println(float32(0.1) + float32(0.2))
fmt.Println(float64(0.1) + float64(0.2))

输出是:

0.3
0.30000000000000004

看来 float32 sum 的结果比 float64 sum 的结果更精确,为什么?我认为 float64 总是比 float32 更精确。我如何决定选择哪一个以获得最准确的结果?


繁星点点滴滴
浏览 92回答 1
1回答

慕的地8271018

事实并非如此。fmt.Println只是让它看起来更精确。Println用于%g浮点数和复数。文档说...默认精度... %g 它是唯一标识该值所需的最小位数。0.3 足以识别float32. 但float64更精确需要更多的数字。我们可以使用fmt.Printf和%0.20g强制两个数字显示相同的精度。f32 := float32(0.1) + float32(0.2)f64 := float64(0.1) + float64(0.2)fmt.Printf("%0.20g\n", f32)fmt.Printf("%0.20g\n", f64)0.300000011920928955080.30000000000000004441float64更精确。两者都不精确,因为这是浮点数的本质。我们可以用它strconv.FormatFloat来看看这些数字到底是什么。fmt.Println(strconv.FormatFloat(float64(f32), 'b', -1, 32))fmt.Println(strconv.FormatFloat(f64, 'b', -1, 64))10066330p-255404319552844596p-54即10066330 * 2^-25和5404319552844596 * 2^-54。
打开App,查看更多内容
随时随地看视频慕课网APP

相关分类

Go