我正在研究PCA,ICA和自动编码器。我试图弄清楚这三个想法之间的直观区别。
PCA 尝试通过查看最大方差来找到方向(线性)。
ICA 尝试查找统计上独立的方向。但是我对独立组件流水线感到困惑。它是原始数据的线性变换吗?还是非线性变换?
如果ICA是非线性变换,那么ICA和我们在训练自动编码器(AE) 后学习的权向量之间有什么区别?
在ICA中,我们假设统计独立性约束,但是在AE中,我们不假设这样的约束,这是我到目前为止所了解的。
我的主要问题是,如果ICA学习了非线性变换,为什么有人会使用AE而不是ICA?
PS 。我正在使用非线性对比函数$$(exp(-x ^ 2/2))$$