Swift Playgrounds:在内置变量查看器中显示时,浮点数总是四舍五入

时间:2019-03-24 21:24:10

标签: swift precision swift-playground

使用Swift Playgrounds我正在尝试一些数学问题,特别是使用pow函数。如果我要执行以下操作:

var x: Float = powf(0.2, 2)

它返回0.04作为预期的答案。

但是,如果我将其更改为使底数为0.02(或更小),则查看器中的结果为0.0。我想避免使用Decimal,因为这将在以后进入Apple的Accelerate框架。

如何保留此值的正确值?

1 个答案:

答案 0 :(得分:0)

此行为在iPad上的Swift Playground 2.2中可重现。

该值已正确计算,但是默认情况下,用于Float类型的内置查看器似乎仅显示两位小数。据我所知,没有任何记录的方式可以改变这一点。

但是,您可以通过调用print(x)或使用String(format: "%f", x)手动创建一个字符串来从变量中构建字符串。

附带的屏幕快照说明了内置变量查看器的行为。 enter image description here