我在数字 500000 上使用sqrt函数。但我得到的结果是 707.10681152344 这有点不准确,因为正确的数字应该是 707.106781187 (谷歌和任何其他计算器给出)。为什么会这样?我可能会错过一些东西,因为我对LUA很新。非常感谢
答案 0 :(得分:5)
您看到的结果与32位浮点运算一致。
Lua通常使用64位双精度浮点数(对应于C类型double
),但根据this link:
编译Lua很容易,因此它使用另一种类型的数字, 例如长或单精度浮子。这特别有用 对于没有硬件支持浮点的平台。见 分发详细说明。
显然,这就是你正在使用的Lua实现的配置方式。