Lua失去了精确度

时间:2013-12-24 16:55:46

标签: lua precision

我在lua中有一个函数,给出了2个向量,将第一个向量的lambda乘数返回到第二个,这是我的代码

function Math.vectorLambda( v1,v2 )
    local v1Length,v2Length=math.sqrt(v1.x^2+v1.y^2),math.sqrt(v2.x^2+v2.y^2)
    if v1Length==0 then
        return nil
    else
        local dotProduct=v1.x*v2.x+v1.y*v2.y
        print(dotProduct,v1Length,v2Length,math.abs(dotProduct)==(v1Length*v2Length))
        if math.abs(dotProduct)==(v1Length*v2Length) then
            if v1.x~=0 then
                return v2.x/v1.x
            else
                return v2.y/v1.y
            end
        else
            return nil
        end
    end
end

但是,如果

--this is what I get from terminal and I believe that it does not display the whole number--
    v1={0.51449575542753,-0.85749292571254}
    v2={-10,16.666666666667}

输出

-19.436506316151    1   19.436506316151 false

这就是说dotProduct和v1Length * v2Length的绝对值不一样...... 上面是什么原因,而不是我是盲目的? :(

顺便说一下,函数不稳定..具有完全相同的向量,函数可能具有相同的输出,除了math.abs(dotProduct)==(v1Length * v2Length)给出true,因此返回正确的答案而不是nil,为什么呢?

1 个答案:

答案 0 :(得分:1)

花车很棘手。你很可能在较小的小数位上有差异(我不确定,因为我在这里得到true)。尝试使用以下函数以更高的精度打印数字:

function prec_print(v, prec)
  local format = '%.' .. prec .. 'f'
  print(string.format(format, value))
end

在任何情况下,您几乎都不应该使用==来比较浮点相等性。对于花车,对false这样的简单事物来说很容易获得a+b-b==a。您应该做的是检查两个值的差异是否小于某个阈值:

function almost_equal(float1, float2, threshold)
  return math.abs(float1 - float2) <= threshold
end

但它实际上比那更棘手(例如,如果说float1和float2相距太远)。无论如何,对于使用浮点数的任何人来说,此读取是必需的:http://docs.oracle.com/cd/E19957-01/806-3568/ncg_goldberg.html

干杯!