将浮点数除以2位小数与相同的浮点数除以6位小数

时间:2016-08-03 20:03:17

标签: math floating-point statistics

我们有2个带小数点后6位的浮点数。我们将它们分开并在我们的网页上显示结果。我们还在网页上显示我们用于划分的2个数字。由于这两个数字很长(小数点后6位),我们认为显示完整数字可能不是一个好的用户体验。所以我们决定只显示这些数字,最多2位小数。但这对用户来说很困惑,因为他们将这两个数字分开,并尝试匹配不同的结果(使用完整数字计算)。

示例 - 假设有2个数字:0.289045和0.017457。如果我们除以这些数字,结果是16.56,向用户显示这两个数字为0.28和0.01。现在用户试图将0.28和0.01除以及得到的结果为28,这与我们所展示的不匹配。

我们认为可能显示28(即除以0.28和0.01)是正确的方法。但这对0.289045和0.001745这样的数字不起作用。这里,将0.28除以0.00将不会给出任何结果。我们总是希望向用户展示积极的结果。

我无法想出解决这个问题的正确方法。什么是正确的方法?

1 个答案:

答案 0 :(得分:0)

您可以使用2或3位有效数字而不是固定小数位数来表示所有数字。

e.g。

0.28 / 0.017 = 16

0.289 / 0.0174 = 16.6