什么是LDA分类的简单解释

时间:2016-02-18 18:27:48

标签: algorithm machine-learning classification

我发现很难理解线性判别分析(LDA)的过程,我想知道是否有人可以通过简单的英语逐步过程来解释它。据我所知,LDA与主成分分析(PCA)密切相关。但我不知道它如何以精确的精度提供所有概率。以及训练数据如何与实际数据集相关联。我已经提到了一些文件,但我并不知情。它让人更加困惑和复杂。

1 个答案:

答案 0 :(得分:4)

PCA(主成分分析)是无监督或相同的,它不使用类标签信息。因此,歧视性信息不一定得以保留。

  • 最大限度地减少投影错误。
  • 最大化预测点的方差。

    示例:减少面部特征的数量(面部检测)。

LDA(线性判别分析):考虑到类标签的PCA,因此,它受到监督。

  • 最大化班级之间的距离。
  • 最小化班级内的距离。

    示例:将面部分为男性女性群集(面部识别)。

    < / LI>

LDA vs. PCA

关于分步流程,您可以轻松地在Google中找到实现。

关于分类:

  1. x 项目输入到PCA子空间 U ,并计算其投影 a
  2. a 投影到LDA子空间 V
  3. 找到距离最近的中心
  4. 的班级

    简单来说,投影输入 x ,然后检查哪个集群中心更近。

      

    图片来自K. Etemad,R。Chellapa,判别人脸识别的分析。 J.选项SOC。上午。 A,卷。 1997年8月14日第8号