Excel机器epsilon比较

时间:2014-05-22 23:32:26

标签: excel epsilon

所以我了解到Excel中的机器epsilon是2 ^( - 1022)Get Machine epsilon in Microsoft Excel

假设我在单元格A1中有=1+2^-1022

=1=A1返回TRUE

我做错了什么?

1 个答案:

答案 0 :(得分:1)

您应该阅读该问题的所有评论。你的答案是:

  

Microsoft定义了XL的浮点数精度限制。   最小浮点数列为2.2250738585072E-308   在Microsoft支持文章ID:78113。当我输入此数字时   在我的电子表格中,它实际上存储了一个浮点0,但如果我   商店2.2250738585073E-308,(我在最低位数加了1)   我可以看到所有的数字。我看到你要求机器epsilon,但是   因为你正在使用XL,你真正看到的是C / C ++浮动   点库epsilon。请参阅Microsoft Developer Network xlfRegister   (表格1)主题。