浮点数的指数(获取浮点数的所有十进制数)

时间:2019-01-04 07:41:12

标签: python

我需要获取所有可能的十进制数字,但在旋转框上的最大字符数为19。由于要获取的值是动态的,因此不能为小数位数设置静态数字并设置小数位数静态(setDecimals())。

例如,我想转换赫兹:

赫兹:1.00 兆赫:1e-6 GigaHertz:1e-9

我希望它采用以下格式: 1.00, 0.000006, 0.000000009,

是的!小数位是动态的。

这是转换代码(字典的值尚未完成):

conversion_formula = {'Hz': 1, 'kHz': 1e-3, 'MHz': 1e-6, 'GHz': 1e-9, 's': 1, 'ms': 1e-3, 'us': 1e-6, 'ns': 1e-9, 'V': 1, 'mV': 1e-3}

if FREQUENCY_UNIT_NAME == title or AMPLITUDE_UNIT_NAME == title:
    output_value = input_value * (conversion_formula[current_unit] / conversion_formula[base_unit])
elif title == TIME_UNIT_NAME:
    output_value = input_value * (conversion_formula[base_unit] / conversion_formula[current_unit])

1 个答案:

答案 0 :(得分:0)

根据to-precision,Python软件包this answer完成了工作。