我想使用ReLU而不是典型的sigmoid单元来训练DNN。 我已成功实现了以下分类问题（softmax层）的示例，但我正在尝试将其实现为回归。我的数据集基于负载预测。 enter link description here
答案 0 :(得分：1)
是的，您可以使用深度学习进行回归，主要区别在于其输出层和成本函数。想象一下，你有多个隐藏层，最后一层有一个激活函数f（x）= x而不是softmax，其中x是最后一个隐藏层的加权和。
对于成本函数，您将使用公共均方误差，例如使用公共交叉熵（通常与softmax一起使用）。看一下我创建的这个神经网络来执行回归（它在python中从头开始编写，但你可以用它作为在某个框架上实现它的想法）https://github.com/llealgt/bikeshare_regression_neural_network/blob/master/DLND%20Your%20first%20neural%20network.ipynb