Question

此脚本在程序中显示一个值：

string.format("%d", math.floor(self:value())) -- Where self:value() is a number like 4.1256913947

此脚本采用相同的值并将其打印到我的控制台。

math.floor(value) -- Where value is the same number as self:value() was...it's just being sent to another function as well

问题是显示值和控制台打印值不匹配。这种情况很少发生，很少发生，但是当用户输入略微超过整数的数据（即4.0029893417）或其他任何情况时，在这种情况下它将无缘无故地将其置于3。我已经尝试过math.ceil，但当它关闭时会发生相反的效果（即4.89898989），它会打印5但显示4.有没有办法让它完全截断？这样正确显示并正确打印？

注意：Value是不可更改的，因为有时需要那些额外的小数，并在其他地方/函数中相应处理。

谢谢：）

Answer 1

出于好奇，我使用你描述的一些条件进行了一些测试。不幸的是（或幸运的是）我无法重现你所谈论的问题。下面的代码段添加和减去随机数，因此结果大约为4，然后比较两种打印方法（按生成的字符串比较）：

for i=1,10000000 do
    local value = 3.9 + math.random() * 0.2
    local s1 = string.format("%d", math.floor(value))
    local s2 = tostring(math.floor(value))
    if s1 ~= s2 then print "Error" end
end

你可以猜到，＆＃39;错误＆＃39;没有出现。

我已经做了另一个实验：

local l = 4
for i=1,100000 do
    local k = math.pow(10,-i)
    local rand = math.random() * 0.1
    local subtracted = l - k - rand
    if math.floor(subtracted + k + rand) < 4 then
        print "error"
    end
end

通过添加非常小的数字我希望得到与您描述的类似的结果，但同样，问题不会出现。

所以我必须得出结论，问题可能在于函数self：value（）和变量值之间的区别（有时它们确实有不同的值）。

Lua：完美地截断价值

1 个答案: