MYSQL CONV从十六进制到十进制的问题

时间:2019-05-20 17:19:19

标签: mysql

我有一些代码可以将数字从十六进制转换为十进制,并检查是否大于或等于。今天,我发现这并不总是可行,而且我也不知道为什么。

我尝试使用原始值,并且可行。比较工作之外的转化。

select case when 5 >= 40 then 'Fail' else 'Pass' end as 'Check';

select case  WHEN CONV('0005',16,10) >= CONV('28',16,10) THEN 'Fail' else 'Pass' end as 'Check';

select CONV('0005',16,10) as '1', CONV('28',16,10) as '2';

第一个选择按预期进行(通过)。第二个选择则没有。第三个选择只是表明转换工作正常(即0005 HEX = 5十进制,而28 Hex = 40十进制)。

我想念什么?

1 个答案:

答案 0 :(得分:0)

来自docs

  

CONV(N,from_base,to_base)

     

...返回字符串的字符串表示形式   N ...

结果是字符串,并以此进行比较。对于字符串'5' > '40'。因此,您需要使用CAST

select case
    WHEN CAST(CONV('0005',16,10) as SIGNED) >= CAST(CONV('28',16,10) as SIGNED )
        THEN 'Fail'
    else 'Pass' end
as 'Check';

或隐式使用数字操作,例如+0

select case  WHEN CONV('0005',16,10)+0 >= CONV('28',16,10)+0 THEN 'Fail' else 'Pass' end as 'Check';

如果您知道十六进制字符串的最大长度,也可以使用LPAD()

将它们填充为零。
select case
    WHEN lpad('0005', 20, 0) >= lpad('28', 20, 0)
        THEN 'Fail'
    else 'Pass'
end as 'Check';