我需要替代这个简单的数学。
float FreqA = 28.333334;
FreqA = FreqA+0.000001;
println(FreqA);
然而,这导致28.333336。如何进行此数学计算以获得28.333335的正确答案?
我已经尝试将float转换为执行数学运算的整数,而不是转换回float,但是我得到了相同的数学错误。
答案 0 :(得分:1)
您的编程环境具有double
数据类型的可能性非常高。
此类型使用的内存多于float
,但提供更高的精度。
https://en.wikipedia.org/wiki/Double-precision_floating-point_format