NN重量精度和数学权重精度的重要性

时间:2018-01-31 03:54:42

标签: floating-point neural-network wolfram-mathematica

您好我重写了我的问题,试图让答案适用于更多人,但我想知道的是:mathematica NN中权重的精确度是多少?以及NN权重的精确度有多重要?也就是说,你试图解决的问题需要多大才能真正重要?还可以通过额外的神经元来克服32位权重的限制。层

我问,因为我试图重现用于分析极其嘈杂的信号数据的某人的深度CNN的结果,并且我已经无法在很长一段时间内完成(几乎所有事情都试过了) ,应该提到它仍然有没有噪音数据的问题)我刚刚意识到张量流(我使用的是)不支持Conv层的64位权重,他们使用mathematica所以我想知道是否它可能是相关的。

附件是示例噪声信号数据(但正如我所说,似乎也存在零噪声数据的困难): Example noisy signal data that we are trying to analyze

1 个答案:

答案 0 :(得分:0)

我在网上找不到这个,但我找到的结果表明,对于深度学习问题,重量精度isn't very important,并且假设大多数问题可以在适当条件下用8位权重解决。< / p>

所以我仍然不知道为什么我的网络不起作用,但它可能与体重精确度无关。虽然如果有人不同意我的发现,请让我知道,我可以给你答案。