浮点数转换过程中可能会损失精度

问题描述 投票:0回答:3

我在 Google 上搜索了如何在 Java 中获取浮点数的 2 位小数。下面是我的代码。终于到了

float totalWeight = 0.1*levinWeight+0.8*lsmWeight;

我收到可能会损失精度的错误?首先,我想将字符串转换为浮点型,然后将其保留到小数点后两位。

float levinWeight = Float.parseFloat(dataOnlyCombine[2]);
float lsmWeight = Float.parseFloat(dataOnlyCombine[3]);
DecimalFormat df = new DecimalFormat("#.##");
levinWeight = Float.valueOf(df.format(levinWeight));
lsmWeight = Float.valueOf(df.format(lsmWeight));
float totalWeight = 0.1*levinWeight+0.8*lsmWeight;
java decimal precision
3个回答
4
投票

如果您担心精度

  • 不要使用
    float
    ,它的精度是所有可用选项中最低的。 我建议使用
    double
    BigDecimal
  • 使用涉及可以准确表示的值的运算。
    0.1 * x
    会给你带来错误,因为
    0.1
    无法精确表示。 使用
    x / 10.0
    会减少错误。

我会写这样的东西

double levinWeight = Double.parseDouble(dataOnlyCombine[2]);
double lsmWeight = Double.parseDouble(dataOnlyCombine[3]);
double totalWeight = (levinWeight + 8 * lsmWeight) / 10.0;
// perform rounding only at the end as appropriate.

// to round to two decimal places 
double totalWeight2 = Math.round(totalWeight * 100) / 100.0;

0
投票
float levinWeight = Float.parseFloat(dataOnlyCombine[2]);
float lsmWeight = Float.parseFloat(dataOnlyCombine[3]);
float totalWeight = 0.1*levinWeight+0.8*lsmWeight;
DecimalFormat df = new DecimalFormat("#.##");
String totalWeightValue = df.format(totalWeight);

0
投票

如果你真的想这样做,那就使用 BigDecimal。这些浮点类非常适合精度。看看他们:

默认的 IEEE 746 浮点无法满足您的需求。或者,您可以使用整数并将它们乘以 100。所以:

  • 100 相当于 1.00
  • 452 相当于 4.52
  • 1 相当于 0.01
© www.soinside.com 2019 - 2024. All rights reserved.