我正在使用不同的分类器来解决由两个类组成的分类问题。当然，我必须调整我想要作为优化问题处理的超参数。成本函数是（交叉验证的）准确度。我有以下三种不同的优化问题：
连续参数+ 1-2个整数值参数进行优化（也许整数值参数可以单独删除和优化）参数的约束约束（下界和上界）某些参数的等式约束=＆gt ;对于权重参数w（i），sum（w（i））= 1，其中0 <= w（i）＆lt; = 1.权重用于SVM的加权RBF内核。
仅连续参数对参数的约束约束
仅整数值参数对参数的约束约束
我已经使用Matlab的fminsearch函数开始使用Nelder-Mead，但这对于1和3来说似乎不是最佳的。您建议将哪三种优化程序用于这三种类型？一种可能性是使用Matlab的ga函数进行混合整数编程，但根据文档，等式约束可能是一个问题。
另外，我有一个距离度量参数，它是一个字符串（例如欧几里德距离等）。我应该在优化过程中将其视为整数吗？例如，将欧几里德映射到1，将马哈拉诺比斯映射到2等。
最重要的是，另一个问题是局部最小值。如何有效地解决这个问题（不使用有点耗时的随机重启）？