标签: precision
这是一个困扰我一段时间的问题,所以希望您能提出意见。
假设我有一块硬件,它只能生成14位整数,并且将它们存储为16位整数。缩放后,数据将转换为浮点,并将乘以sin / cos。
我的问题是,如果所有操作中数据的幅度都在1之内,那么如果我将它们处理为半整数(在GPU中加快速度)会好吗?
如果我这样做会失去精度吗?谢谢。