晓之海绵宝宝
2019-08-10 17:12
为什么3.14解析成32位浮点,后面会产生这么多小数。
计算机无法精确表示浮点数,所以有精度这个概念,因而计算后的浮点点数一般都会默认显示有n位有效数字,3.14原本是64位转换32位计算后会显示32位精度的默认有效位数,而转换64时因实际就是64位精度并没进行真的转换而直接输出了原来的3.14
Golang之文本编码处理
15752 学习 · 12 问题
相似问题
回答 1
回答 2