解决javascript的Math.pow()误差问题

发现javascript的Math.pow()的计算结果存在误差,比如12*Math.pow(10, -1)的输出结果是1.2000000000000002,怎样才能让Math.pow()输出精确的结果,需要用Math.pow()进行大量计算,求帮忙!

慕容森
浏览 1143回答 2
2回答

慕斯709654

var n = 12 * Math.pow(10, -1); alert(FormatFloat(n, 1)); function FormatFloat(f, d) { var m = Math.pow(10, d); return parseInt(f * m, 10) / m; }

DIEA

用toPrecision
打开App,查看更多内容
随时随地看视频慕课网APP

相关分类

JavaScript