我正在尝试追踪舍入错误。我们有一个黑盒子,我们将数字作为浮点数传递给它,然后将它们存储在黑盒子内的存储器中以备将来使用。每当我们读出它们时,它们总是不同。我们被告知它们要么存储为16位或12位值。我正在寻找一个快速的python脚本,它将执行转换为16位和12位值并再次返回,以便我们可以将我们放入的内容与我们开箱即用的内容进行比较。我不知道从哪里开始,所以任何帮助都会非常感激。
答案 0 :(得分:1)
NumPy有16-bit floats。有AFAIK,没有12位浮标的标准。
>>> import numpy
>>> numpy.float16(1.234567890123456789)
1.2344