最大似然和支持向量复杂度

时间:2012-11-02 00:11:50

标签: algorithm classification

有人可以提供一些参考资料,说明如何确定最大似然和支持向量机分类器的计算复杂度吗? 我一直在网上搜索,但似乎没有找到一个好的文档,详细说明如何找到模拟这些分类器算法的计算复杂性的方程。 感谢

1 个答案:

答案 0 :(得分:1)

支持向量机,并且许多最大似然拟合是凸最小化问题。因此,它们理论上可以使用http://en.wikipedia.org/wiki/Ellipsoid_method在多项式时间内求解。

我怀疑如果你考虑方法,你可以得到更好的估计。 http://www.cse.ust.hk/~jamesk/papers/jmlr05.pdf表示在m个实例上的标准SVM拟合花费O(m ^ 3)时间和O(m ^ 2)空间。 http://research.microsoft.com/en-us/um/people/minka/papers/logreg/minka-logreg.pdf给出了逻辑回归的每次迭代成本,但没有为估计迭代次数提供理论依据。在实践中,我希望这大部分时间都能达到二次收敛,并且不会太糟糕。