为什么3.14解析成32位浮点,后面会产生这么多小数。

来源:2-2 Golang 字符串转换

晓之海绵宝宝

2019-08-10 17:12

为什么3.14解析成32位浮点,后面会产生这么多小数。

写回答 关注

1回答

  • weixin_慕后端1264365
    2019-09-22 07:09:13
    已采纳

    计算机无法精确表示浮点数,所以有精度这个概念,因而计算后的浮点点数一般都会默认显示有n位有效数字,3.14原本是64位转换32位计算后会显示32位精度的默认有效位数,而转换64时因实际就是64位精度并没进行真的转换而直接输出了原来的3.14

Golang之文本编码处理

掌握对Golang语言中文本编码处理的应用, 搞定日常操作

15752 学习 · 12 问题

查看课程

相似问题