在某些情况下,将Long乘以float数会导致错误

时间:2019-05-31 06:50:19

标签: java casting floating-point

请参见以下简单代码:

public static void main(String[] args) {
    Long value = 91000L;
    System.out.println(value * 0.1);
    System.out.println(value * 0.2);
    System.out.println(value * 0.3);
    System.out.println(value * 0.4);
    System.out.println(value * 0.5);
    System.out.println(value * 0.6);
    System.out.println(value * 0.7);
    System.out.println(value * 0.8);
    System.out.println(value * 0.9);
}

结果是这样的:

9100.0
18200.0
27300.0
36400.0
45500.0
54600.0
63699.99999999999 //incorrect!
72800.0
81900.0

1 个答案:

答案 0 :(得分:3)

这是正确的结果,因为使用double并不像使用整数类型那样精确。

这就是为什么如果您比较两个double数字,则必须做个模糊处理的原因。像这样:

public static boolean isEqual(double one, double two) {
    return one >= two - 1E6 && one <= two + 1E6;
}

P.S。 4.2.3. Floating-Point Types, Formats, and Values

如果要打印正确的值,则必须使用BigDecimal

BigDecimal val = BigDecimal.valueOf(91000);
BigDecimal res = val.multiply(BigDecimal.valueOf(0.7));
System.out.println(res); // 63000.0

在某些情况下,您可以提高精度:

long value = 91000L;
System.out.println(value * 0.7);    // 63699.99999999999
System.out.println((value * 7) / 10);   // 63700