我想生成一个大十进制数的图形,如-106.63633167743683或52.132235169410706。但每当我在Excel表格中输入值时,它给我的值如-106.63633167743600(因为我格式化了15个小数位的单元格)。它将最后两位的值替换为0。
有人可以帮忙解决这个问题吗?
答案 0 :(得分:0)
106.63633167743600
1 1
1--.-5----0----5
Excel数字存储为IEEE双精度值(参见http://support.microsoft.com/kb/78113)。这意味着数字只能有15个有效数字的精度。要表示106.63633167743683需要17个有效数字,这对Excel来说太多了。因此,最后2位数字变为零。
(Excel不适用于高精度算术。)
答案 1 :(得分:0)
示例中的两个数字是否都在散点图上?我无法想象计算机显示器足够大,无论如何都要向他们展示这种精度。你不需要在一个方向上有1.5 * 10 ^ 17像素的东西吗?例如,我的显示器高1050英寸。
或者,如果这些是不同数据集中的数字示例,并且您想要绘制像
这样的数字-106.63633167743683
-106.63633167743692
如果差异在第16位有效数字下降,则可以简单地绘制
83
92
并获得相同的效果。