什么描述了NSNumberFormatter -maximumSignificantDigits?

时间:2009-08-24 13:15:36

标签: objective-c iphone cocoa-touch uikit foundation

文档中没有关于这意味着什么的文字,但听起来非常重要,以免遇到麻烦。有人知道数字的“有效数字”是什么吗?

2 个答案:

答案 0 :(得分:17)

虽然这个问题的另一个答案与一般有效数字概念的正确解释有关,但NSNumberFormatter的{​​{1}}属性与计算的精确度无关。

有效数字是从第一个非零数字到最后一个非零数字(包括第一个非零数字)的数字中的数字组,通常除非尾随零是小数。如果已知或需要相对(百分比)错误,则将输出限制为特定的有效位数非常有用。

首先,除非{uses|minimum|maximum}SignificantDigits设置为minimumSignificantDigits,否则maximumSignificantDigitsusesSignificantDigits无效。如果是这种情况,可以使用示例最容易地解释它们的影响。

我们取数字YESa = 123.4567b = 1.23

假设c = 0.00123minimumSignificantDigits = 01

如果2,则maximumSignificantDigits = 3的格式为“123”,a格式为“1.23”,b格式为“0.00123”。

如果c,则maximumSignificantDigits = 4的格式为“123 .5 ”,a格式为“1.23”,b为“0.00123”。

如果c,则maximumSignificantDigits = 2将格式化为“12 0 ”,a格式为“1.2”,b格式为“ 0.0012" 。

假设c

如果minimumSignificantDigits = 4,则maximumSignificantDigits = 4的格式为“123。 5 ”,a为“1.23 0 “和b为”0.00123 0 “。

注意:由于圆到最近的模式, 4 5 转换发生,因为a中的4后面的数字是5。 / em>的

答案 1 :(得分:0)

请参阅here以获取有效数字的精彩教程。非常简单的解释是:在您的应用程序中用于计算的位数。