分部没有给出预期的结果

Question

代码：

float cordsStepAmountHeight;
float cordsStepAmountWidth;

coordStepAmountHeight=(2.0f/height);
coordStepAmountWidth=(2.0f/width);

宽度为2560，高度为1504（我的设备的分辨率）。

计算后，coordStepAmountHeight的值为0.0013297872，这是正确的 但是cordsStepAmountWidth的出现是7.8125E-4（当我认为它应该是0.00078125时）

为什么coordStepAmountWidth会像这样出现？是否与变量被声明为浮点数并且无法应对计算或其他事情有关？

Answer 1

这是相同的数字。它是所谓的浮点数的科学表示。您可以在此处详细了解：http://www.learncpp.com/cpp-tutorial/25-floating-point-numbers/

Answer 2

7.8125E-4和0.00078125与 e-4相同表示x10 ^ -4（除以10000）。所以它们在数学观点上是相同的。