我正在尝试计算第一次通过率的百分比但是除法不起作用并返回零
double FirstPassYield = ((RowTotal - DefectCount) / RowTotal) * 100;
我尝试了个人计算,但除非我使用除法。我甚至接受了随机数字并将它们分开并仍然得到0.我不确定的方式除了返回0
答案 0 :(得分:4)
请改为尝试:
double FirstPassYield = ((RowTotal - DefectCount) / (double)RowTotal) * 100;
当您将int
除以int
时,结果为int
,然后再投放到double
,因此您将获得零而不是您期望的值。通过将分母投射到double
,计算的其余部分将进行投放以匹配,因此您在之前使用double
而不是int
s 分配。