关于计算精度

时间:2018-07-23 02:04:04

标签: precision

这是一个困扰我一段时间的问题,所以希望您能提出意见。

假设我有一块硬件,它只能生成14位整数,并且将它们存储为16位整数。缩放后,数据将转换为浮点,并将乘以sin / cos。

我的问题是,如果所有操作中数据的幅度都在1之内,那么如果我将它们处理为半整数(在GPU中加快速度)会好吗?

如果我这样做会失去精度吗?谢谢。

0 个答案:

没有答案