如何为我的全连接神经网络找到正确的架构？

Question

我想解决一些涉及序列大小变化的问题，并在序列中间的某个元素上提供一位数字输出。我正在使用双向RNN，因此我需要将从它获得的两个输出压缩为一个数字。这既是一个具体的问题，又是一个普遍的问题-我如何找到适合该问题的正确的网络体系结构？总的来说，在任何问题上如何找到合适的全连接网络体系结构？因为我没有看到任何常见的完全连接的体系结构，但是例如在计算机视觉的情况下，可以使用常见的卷积体系结构。

Answer 1

根据我的经验，有三种方法。

• 找到尝试解决您的问题的人或与之接近的人，然后开始使用他的参数。如果您不满意，请稍作修改。
• 尝试错误并不是很有趣，但是如果您发现没有什么有用的东西，则需要做些事情。
• AutoML-取决于您的计算机能力。如果您有足够的能力而不是计算机，请尝试为您的问题找到最佳的体系结构。