使用浮点数或双打而不是整数

时间:2011-05-19 14:41:26

标签: lua floating-accuracy

我知道Lua的默认实现仅使用浮点数,从而避免在选择要使用的数学函数的变体之前动态确定数字子类型的问题。

我的问题是 - 如果我尝试在标准C99中将整数模拟为双精度(或浮点数),是否有可靠(简单)的方法来判断精确表示的最大值是什么?

我的意思是,如果我使用64位浮点数来表示整数,我当然不能代表所有64位整数(这里的归类原则适用)。如何判断可表示的最大整数?

(尝试列出所有值不是解决方案 - 例如,如果我在64位架构中使用双打,因为我必须列出2 ^ {64}个数字)

谢谢!

3 个答案:

答案 0 :(得分:12)

对于64位双精度,最大的可表示整数 2 53 (9007199254740992),对于a,对于 24 (16777216), 32位浮点数。请参阅the Wikipedia page for IEEE floating point numbers上的基准数字。

在Lua中验证这一点非常简单:

local maxdouble = 2^53

-- one less than the maximum can be represented precisely
print (string.format("%.0f",maxdouble-1)) --> 9007199254740991
-- the maximum itself can be represented precisely
print (string.format("%.0f",maxdouble))   --> 9007199254740992
-- one more than the maximum gets rounded down
print (string.format("%.0f",maxdouble+1)) --> 9007199254740992 again

如果我们没有方便的IEEE定义的字段大小,知道我们对浮点数的设计的了解,我们可以使用上的简单循环来确定这些值可能的值:

#include <stddef.h>
#include <stdint.h>
#include <stdio.h>
#define min(a, b) (a < b ? a : b)
#define bits(type) (sizeof(type) * 8)
#define testimax(test_t) { \
  uintmax_t in = 1, out = 2; \
  size_t pow = 0, limit = min(bits(test_t), bits(uintmax_t)); \
  while (pow < limit && out == in + 1) { \
    in = in << 1; \
    out = (test_t) in + 1; \
    ++pow; \
  } \
  if (pow == limit) \
    puts(#test_t " is as precise as longest integer type"); \
  else printf(#test_t " conversion imprecise for 2^%d+1:\n" \
    "   in: %llu\n  out: %llu\n\n", pow, in + 1, out); \
}

int main(void)
{
    testimax(float);
    testimax(double);
    return 0;
}

The output of the above code

float conversion imprecise for 2^24+1:
   in: 16777217
  out: 16777216

double conversion imprecise for 2^53+1:
   in: 9007199254740993
  out: 9007199254740992

当然,由于浮点精度的工作方式,64位双精度数可以表示远大于2 64 的数字,因为浮动指数增长为正。 The Wikipedia page on double-precision floating-point描述:

  

在2 52 = 4,503,599,627,370,496和2 53 = 9,007,199,254,740,992之间,可表示的数字正好是整数。对于下一个范围,从2 53 到2 54 ,一切都乘以2,因此可表示的数字是偶数,等等。相反,对于前一个范围, 2 51 至2 52 ,间距为0.5等。

双重可以容纳的绝对最大值列在该页面的下方:0x7fefffffffffffff,计算为(1 +(1 - 2 -52 ))* 2 1023 ,或大致为1.7976931348623157e308。

答案 1 :(得分:1)

IEEE floating point wikipage说:

  

原始二进制值将通过转换为十进制来保留,然后使用:

再次返回      
      
  • binary16
  • 的5位小数   
  • binary32
  • 的9位小数   
  • binary64的十进制数字
  •   
  • binary128的十进制数字
  •   

答案 2 :(得分:0)

如果您正在查看int到float和int之间的转换,它会在我的系统上分解为16,777,217(double没有任何问题):

#include <stdio.h>
#include <limits.h>

int main (void)
{
  long in, out;
  double d;
  float f;

  for (in=0; in < (LONG_MAX); in++) {
    d=in;
    f=in;
    out=d;
    if (in != out) {
      printf ("Double conversion imprecise for %ld\n", in);
    }
    out=f;
    if (in != out) {
      printf ("Float conversion imprecise for %ld\n", in);
    }
  }
  return 0;
}