我需要将ddmm.mmmmm(4位小数分钟)的纬度转换为ddmm.mmmmmm(5位小数分钟)格式。转换它有什么好的公式吗?
答案 0 :(得分:1)
我得到了答案
我们需要按照以下步骤进行此转换 1.使用以下公式将ddmm.mmmm格式的值转换为dd.ddddddd dd.ddddddd = dd +(mm.mmmm / 60)
转换回来 ddmm.mmmmm = concat(dd,(。dddddd * 60))
示例:
从ddmm.mmmm格式转换3323.8733
转换为度(dd.dddd)格式 33 +(23.8733 / 60)= 33.397888333333334
转换回ddmm.mmmmm格式 乘以小数部分乘以60,即0.397888333333334 * 60 => 23.87330000000004 附加学位 3323.87330000000004
由于我们需要ddmm.mmmmm,我们可以舍入5位小数,即3323.87330
答案 1 :(得分:0)
我建议遵循mkk的建议还有其他信息。
如果你想将“ddmm.mmmmm”(4位小数)转换为“ddmm.mmmmm”(5位小数),你可能只需要在末尾添加零。
通过在小数点后五位放置非零值,其他方法似乎可以提供更令人满意的结果。但是他们无法添加比原始号码中更多的信息。但是,在数学计算中有可能通过loss of significance丢失信息。