机器学习中的凸和非凸问题

Question

在卷积神经网络（CNN）中，我读到诸如tanh之类的激活函数仅适用于凸问题/优化。到底是什么意思什么是凸优化和非凸优化？为什么凸出的问题“更容易”解决？

Answer 1

我不确定您的第一句话是什么意思。简而言之，凸优化和非凸优化之间的差异取决于描述目标函数和约束的函数的凸性。凸优化问题有很多好处，包括：最优点的唯一性和问题的计算可处理性。我希望这能给您一个初步的概述。