Lua Sqrt功能不准确

时间:2014-07-25 20:13:20

标签: lua sqrt

我在数字 500000 上使用sqrt函数。但我得到的结果是 707.10681152344 这有点不准确,因为正确的数字应该是 707.106781187 (谷歌和任何其他计算器给出)。为什么会这样?我可能会错过一些东西,因为我对LUA很新。非常感谢

1 个答案:

答案 0 :(得分:5)

您看到的结果与32位浮点运算一致。

Lua通常使用64位双精度浮点数(对应于C类型double),但根据this link

  

编译Lua很容易,因此它使用另一种类型的数字,   例如长或单精度浮子。这特别有用   对于没有硬件支持浮点的平台。见   分发详细说明。

显然,这就是你正在使用的Lua实现的配置方式。