我在看numpy.finfo
并做了以下事情:
In [14]: np.finfo(np.float16).resolution
Out[14]: 0.0010004
In [16]: np.array([0., 0.0001], dtype=np.float16)
Out[16]: array([ 0. , 0.00010002], dtype=float16)
似乎矢量能够存储两个数字,使得它们的差异比类型的分辨率小10倍。我错过了什么吗?
答案 0 :(得分:2)
根据我的理解,精度是您可以拥有的小数位数。但由于浮点数存储在指数中,因此您可以使用小于分辨率的数字。试试np.finfo(np.float16).tiny
,它会给你6.1035e-05
,这比分辨率小。但该数字的基础部分的分辨率约为0.001。请注意,finfo中的所有限制都是近似的,因为二进制表示与精确的小数限制没有直接关联。
答案 1 :(得分:2)
浮点数在初始数字后具有固定的分辨率。这个数字告诉你的是,当第一个数字位于1.0位置时,数字的分辨率是多少。您可以通过尝试将较小的金额添加到1.0来看到这一点:
In [8]: np.float16(1) + np.float16(0.001)
Out[8]: 1.001
In [9]: np.float16(1) + np.float16(0.0001)
Out[9]: 1.0
这与nextafter
函数有关,它在给定的函数之后给出下一个可表示的数字。取得这种差异大致可以得出这个分辨率:
In [10]: np.nextafter(np.float16(1), np.float16(np.inf)) - np.float16(1)
Out[10]: 0.00097656