在vim编辑器中,当我尝试使用命令
划分数字时 <C-r>= 320 / 1024
我得到0
。怎么解决?
答案 0 :(得分:5)
您必须将其中一个数字设为float
:
320 / 1024.0
会给你想要的东西。更多信息here
答案 1 :(得分:1)
你要做的是整数除法。在进行整数除法时,一些样本结果如下:
1/3 = 0
5/3 = 1
但是将分子/分母转换为浮点值将返回浮点结果。
1.0/3 = 0.333333
5/3.0 = 1.666667
因此,您正在寻找的是320/1024.0
或320.0/1024
或320.0/1024.0
结果是0.3125