bigdecimal运算结果不准的探究
Java中的bigdecimal类型用于进行高精度计算，但在某些情况下，用户可能会发现运算结果不符合预期。
问题示例
这段代码希望计算currentinventorynumber减去convertednumber，但输出结果却令人疑惑：
立即学习“Java免费学习笔记（深入）”；
public static void main(string[] args) { bigdecimal currentinventorynumber = bigdecimal.valueof(872.000); bigdecimal convertednumber = bigdecimal.valueof(0.200); system.out.println(currentinventorynumber.subtract(convertednumber, new mathcontext(3))); }
结果
输出结果为872，与预期的871.800不一致。
解答
问题出在new mathcontext(3)参数上，它表示运算精度为小数点后三位。
- currentinventorynumber的值为872.000。
- convertednumber的值为0.200。
因此，它们的差值为871.800。但是，mathcontext(3)会将结果四舍五入到小数点后三位，也就是872.000。
为了得到精确的结果，可以：
- 使用更高的精度，例如mathcontext(6)：
system.out.println(currentinventorynumber.subtract(convertednumber, new mathcontext(6)));
- 设置舍入方式为截断，而不是四舍五入：
System.out.println(currentInventoryNumber.subtract(convertedNumber, new MathContext(3, RoundingMode.DOWN)));
