使用R中的mxnet对多个输出进行超参数调整

Question

我目前正尝试使用多个输出构建MLP。

对于单输出MLP，我通常使用H2o packge实现，它实现了一个很好的随机网格搜索功能。由于H2o不支持多个输出，我切换到mxnet包。

现在我正试图找到一种方法来调整我的MLP参数。我无法在R中找到任何为多个输出提供参数调整的包，并允许我使用mxnet。

您是否知道任何软件包，或者您是否具有自我实现的超参数搜索功能？ 谢谢！

编辑评论原因：

对于多个输出，我指的是多个响应变量（MIMO问题）。例如，我研究的任务之一是预测RRSB分布。 RRSB分布有两个参数：n，x。我希望这能解决你的问题

Answer 1

你考虑过Caret吗？我认为它可能会这样做，因为它提供了两个超参数调整https://topepo.github.io/caret/model-training-and-tuning.html 并支持一些mxnet模型，但不确定是否支持具有多个输出的MLP。

我个人使用网格或随机搜索方法，只需从与每个相关联的可能值列表中抽取所需参数。它涉及循环不同的超参数选择并保持每个配置性能的日志。

Answer 2

This tutorial解释了如何使用MXNet构建多层感知器，在特定情况下，将Softmax层作为最终层将输入分类为10个不同类别之一（MNIST问题）。 / p>

在你的情况下，我相信你想要的是一个MLP，它有一个2个单位的最终完全连接层，每个你想要预测的变量一个。 Look here作为线性回归的一个例子。您的损失功能需要根据您的具体问题进行调整。