java中,数值型Double运算出错问题

java中,数值型Double运算出错问题

在java中(在python,js其他语言中也存在),某些double型数值运算会出错,,例如0.1+0.2或者0.1*3会得到结果0.30000000000000004,网上有人提出解决办法如下: Floati=3*0.1; System.out.println(i);但是对于0.9*1这种运算又会出现问题,用上述办法解决不了,所以,最好采用保留精度的方法,即设定保留小数点位数,下面保留小数点位数的工具类:

public static double round(double value, int scale) {if (scale < 0) {throw new IllegalArgumentException("The scale must be a positive integer or zero");}BigDecimal b = new BigDecimal(Double.toString(value));BigDecimal one = new BigDecimal("1");return b.divide(one, scale, BigDecimal.ROUND_HALF_UP).doubleValue();}

版权声明:本文为博主原创文章,未经博主允许不得转载。

上一篇在struts2中使用url传递中文到后台乱码

顶0踩0

微笑拥抱每一天,做像向日葵般温暖的女子。

java中,数值型Double运算出错问题

相关文章:

你感兴趣的文章:

标签云: