为什么10 ^ -8与.1 ^ 8不同?

时间:2019-05-14 19:23:05

标签: vb.net double long-integer

在vb.net

实际上,我剪了监视窗口

enter imagecorrection here

10 ^ -8是正确的1e-8

然而,有些东西具有.1 ^ 8甚至是.1 ^ 2

为什么?

对于一个实验,我尝试使用.1 * .1和1/100和1 /(10 ^ 8)。有些产生正确的结果,而有些则没有。我不知道为什么。

我的猜测是10 ^ -1,在数学上等效于.1,可以精确地进行编码。它们的存储方式不同于1。我不知道怎么做我认为他们的螳螂相同,然后它们的指数只有-1。

请注意,10 ^ -120似乎准确显示

enter image description here

问题仅在10 ^ -309之后开始

10 ^ -308仍然准确。

我想知道他们如何代表它?在ieee754

0 个答案:

没有答案