猿问
如何处理java的Math.pow()计算的误差
Java中12*Math.pow(10, -1)的计算结果是1.2000000000000002,怎样让幂计算得出正确的结果,项目中有大量类似的幂计算。
开心每一天1111
浏览 1092
回答 2
2回答
慕雪6442864
我记得用Math.pow参数必须为正,所以最好判断一下是否为正数,如果为负数,可以先转为分数计算,如:Math.pow(10, -2)应该写为Math.pow(1/10, 2)
0
0
0
天涯尽头无女友
不知道java有没有像c#一样的decimal类型
0
0
0
随时随地看视频
慕课网APP
相关分类
Java
我要回答