我在两点之间的x-y坐标之间有一个奇怪的区别,这导致了一些问题。 使用包含点的要素类的FGDB作为底图,我使用esri捕捉函数绘制多边形。此多边形的角点与点对齐,并保存在.shp形状文件中。在ArcMap中,角点的x-y坐标与它们下面的点完全相同。
现在,当使用FME和FME数据查看器时,这些点的x-y坐标略有不同,仅在第9个十进制数上有所不同。这意味着这些点不会落入多边形内部,从而造成困难。
为了简单起见,点的x坐标是: 67479.59299999848 并且多边形角点的x坐标是: 67479.593000002205
现在我的问题是: 是什么造成差异,因为区别不仅仅是简单和简单的舍入。通过舍入,我预计最终会有.593000000000而不是2205。
我有截图但我无法发布< 10声誉的图片......
希望有人能回答这是如何运作的!
干杯,
答案 0 :(得分:1)
好的,让我回答我自己的问题(我也在FME论坛上发表)。这个答案的所有功劳都归功于FME社区知识中心的David R.。
David R. 喜
这里有一些其他线程涉及同一问题, 但简短的回答是,这是由于内部四舍五入和错误而导致的。 当转换基数10(你和我)和基数2(基数为2)之间的分数时 电脑)。对于大多数应用程序而言,它不应该有任何区别。
您可以在此处找到更详细的答案: http://floating-point-gui.de/basic/
大卫