文档中没有关于这意味着什么的文字,但听起来非常重要,以免遇到麻烦。有人知道数字的“有效数字”是什么吗?
答案 0 :(得分:17)
虽然这个问题的另一个答案与一般有效数字概念的正确解释有关,但NSNumberFormatter
的{{1}}属性与计算的精确度无关。
有效数字是从第一个非零数字到最后一个非零数字(包括第一个非零数字)的数字中的数字组,通常除非尾随零是小数。如果已知或需要相对(百分比)错误,则将输出限制为特定的有效位数非常有用。
首先,除非{uses|minimum|maximum}SignificantDigits
设置为minimumSignificantDigits
,否则maximumSignificantDigits
和usesSignificantDigits
无效。如果是这种情况,可以使用示例最容易地解释它们的影响。
我们取数字YES
,a = 123.4567
和b = 1.23
:
假设c = 0.00123
,minimumSignificantDigits = 0
或1
:
如果2
,则maximumSignificantDigits = 3
的格式为“123”,a
格式为“1.23”,b
格式为“0.00123”。
如果c
,则maximumSignificantDigits = 4
的格式为“123 .5 ”,a
格式为“1.23”,b
为“0.00123”。
如果c
,则maximumSignificantDigits = 2
将格式化为“12 0 ”,a
格式为“1.2”,b
格式为“ 0.0012" 。
假设c
:
如果minimumSignificantDigits = 4
,则maximumSignificantDigits = 4
的格式为“123。 5 ”,a
为“1.23 0 “和b
为”0.00123 0 “。
注意:由于圆到最近的模式, 4 → 5 转换发生,因为a中的4后面的数字是5。 / em>的
答案 1 :(得分:0)
请参阅here以获取有效数字的精彩教程。非常简单的解释是:在您的应用程序中用于计算的位数。