所以我了解到Excel中的机器epsilon是2 ^( - 1022)Get Machine epsilon in Microsoft Excel
假设我在单元格A1中有=1+2^-1022
=1=A1
返回TRUE
我做错了什么?
答案 0 :(得分:1)
您应该阅读该问题的所有评论。你的答案是:
Microsoft定义了XL的浮点数精度限制。 最小浮点数列为2.2250738585072E-308 在Microsoft支持文章ID:78113。当我输入此数字时 在我的电子表格中,它实际上存储了一个浮点0,但如果我 商店2.2250738585073E-308,(我在最低位数加了1) 我可以看到所有的数字。我看到你要求机器epsilon,但是 因为你正在使用XL,你真正看到的是C / C ++浮动 点库epsilon。请参阅Microsoft Developer Network xlfRegister (表格1)主题。