我是python
的新手。我正在尝试使用Sellmeier
公式来计算折射率。该等式的系数是大量的sig figs的小数
( i.e B1 = 1.03961212, B2 = 0.231792344, C1 = 6.00069867×10−3 ... and so on)
在sellmeier公式中,这些数字有很多分数,乘法和平方。我原来把它们称为花车。然而,这样的过程显然不能像floats
那样完成。
我该怎么办?
请帮助!
答案 0 :(得分:-1)
你可以使用float64双精度浮点数:符号位,11位指数,52位尾数。 但为此你必须安装64位numpy和
import numpy as np
你可以使用: np.float64