ArcGIS - FME协调舍入差异

时间:2015-06-16 14:03:04

标签: arcgis esri

我在两点之间的x-y坐标之间有一个奇怪的区别,这导致了一些问题。 使用包含点的要素类的FGDB作为底图,我使用esri捕捉函数绘制多边形。此多边形的角点与点对齐,并保存在.shp形状文件中。在ArcMap中,角点的x-y坐标与它们下面的点完全相同。

现在,当使用FME和FME数据查看器时,这些点的x-y坐标略有不同,仅在第9个十进制数上有所不同。这意味着这些点不会落入多边形内部,从而造成困难。

为了简单起见,点的x坐标是: 67479.59299999848 并且多边形角点的x坐标是: 67479.593000002205

现在我的问题是: 是什么造成差异,因为区别不仅仅是简单和简单的舍入。通过舍入,我预计最终会有.593000000000而不是2205。

我有截图但我无法发布< 10声誉的图片......

希望有人能回答这是如何运作的!

干杯,

1 个答案:

答案 0 :(得分:1)

好的,让我回答我自己的问题(我也在FME论坛上发表)。这个答案的所有功劳都归功于FME社区知识中心的David R.。

  

David R.   喜

     

这里有一些其他线程涉及同一问题,   但简短的回答是,这是由于内部四舍五入和错误而导致的。   当转换基数10(你和我)和基数2(基数为2)之间的分数时   电脑)。对于大多数应用程序而言,它不应该有任何区别。

     

您可以在此处找到更详细的答案:   http://floating-point-gui.de/basic/

     

大卫