数字变量是否遵循TI计算器的文档标准?
我真的很惊讶地注意到我的TI 83 Premium CE这个测试实际上是真的(即1):
0.1 - > X
0.1 - > ÿ
0.01 - > ž
X * Y = Z
我希望这会失败,假设我的计算器会使用IEEE 754标准来表示浮点数。
另一方面,计算2 ^ 50 + 3-2 ^ 50返回0,表明大整数似乎使用这样的标准:我们在这里看到大数字有一个有限的尾数。
答案 0 :(得分:3)
=
是一种宽容比较在计算器上尝试1+10^-12=1
。这些数字不能平等地表示(1+10^-12-1
给出1E-12
),但您会注意到该比较返回true:因为=
具有一定的数量宽容。 AFAICT来自我的计算器测试,如果在舍入到十位有效数字时数字相等,=
将返回true。
其次,
TI浮点数是一种长度为9个字节的BCD格式,其中一个字节用于符号和辅助信息,14个数字(7个字节)的精度。第九个字节用于额外的精度,因此数字可以正确舍入。
有关详细信息,请参阅由@doynax here链接的来源。