经纬度小数点后面留几位才够用？

最近，麻辣GIS群里有小伙伴讨论在做 POI 清洗时，同一批数据经纬度格式不统一，有的写到小数点后 6 位，有的写到 13 位，例如 19.0649070739746、73.1308670043945。位数少了会不会把点定位偏了？多写几位是不是就更准？这是一个很有趣的问题，小编结合日常处理坐标的经验给大家说明一下。

精度不等于准确度

小数位数反映的是数值精度，不等于测量准确度。

精度是数值能表达多细，准确度是测量结果离真实位置有多近。两者相关，但不是一回事。对多数 GIS 业务，6 位小数通常够用，大约对应 11 厘米量级的分辨率。如果需要亚厘米级结果，应保留7到8位，但再往上堆位数，对真实准确度帮助有限，因为仪器本身往往达不到那个水平。而那些写到 13 位的，往往只是浮点输出没截断，并不能让普通 GPS 采点更准。

举个例子：普通手机 GPS 在楼群间采点，真实位置可能在 ±10 米范围内波动，却把坐标存成小数点后 13 位。看起来十分精细，后面几位多半是计算机浮点运算带来的，并不能提高实际定位质量，反而容易让下游误以为这是厘米级甚至毫米级数据。

每一位小数大概对应什么尺度

小数点后面每一位对应多大地面距离？要从一度等于多长说起。地球赤道到极点约 1 万千米，对应纬度 90 度，因此 1 度纬度约等于 111 千米。经度方向在同一纬度上也是 360 等分，但经线在高纬度会向两极收拢，同样 1 度经度，在赤道附近最长，越靠近两极越短。

以下以纬度方向为参考，经度在赤道附近可近似同样理解，高纬度经度需按纬度用余弦值计算。

整数部分

符号位表示南北、东西。十位数字大约对应 1000 千米尺度，可判断所在大洲或洋区。个位上的 1 度约111 千米，可粗定位到省或国家级范围。

小数部分

• 第 1 位约11 千米，可区分相邻大城市。
• 第 2 位约 1.1 千米，可区分相邻乡镇。
• 第 3 位约 110 米，对应大型农田、校园等范围。
• 第 4 位约 11 米，接近一块小宗地，也接近普通 GPS 无差分、信号良好时的典型误差水平。
• 第 5 位约 1.1 米，可区分相邻地物；商业 GPS 想稳定到这个级别，通常需要差分。
• 第 6 位约11 厘米，适用于细部放样、道路边线、冰川监测等，一般需要规范测量并配合差分改正。
• 第 7 位约 1.1 厘米，可满足不少测量需求，也接近常规 GPS 的上限。
• 第 8 位约 1.1 毫米，多用于板块运动、火山形变等科研场景，通常需要长期运行的固定基准站。
• 再往后，第 9 位已到100 微米量级，第 13 位可到纳米量级。对地球上的普通点位应用，这些位数基本没有实际测量意义，现有测绘设备也达不到相应准确度。

实际工作中怎么选小数位

结合上面的对应关系，小编给一个不严谨的建议：

• 手机采点、互联网地图抓点、粗 POI 清洗，保留4 到 5 位通常足够。
• 一般 GIS 项目、导航、LBS 业务用6 位。
• 测量、放样、高精度监测按行业规范保留7 到 8 位，并明确标注坐标系、采集方法、精度说明。
• 超过 9 位仍继续延伸，除非属于特殊地球科学研究，否则更可能是 导出环节未控制有效位数。

经度还要考虑cos纬度因子，例如在北纬 40 度，1 度经度约85 千米，小数点后第 1 位对应8.5 千米，比赤道上的 11 千米更细。

总结

小数位数决定你能把点表达得多细，不决定点量得有多准。同样的 6 位小数，手机 A-GPS 和 RTK 固定解完全不是同一质量等级。坐标可信度取决于采集仪器、是否使用差分、是否存在遮挡和多路径等因素。入库或对外发布前，最好把两者分开说明。

如果你有更合适的精度控制经验，欢迎留言补充。