多维尺寸的可逆尺寸减小

Question

是否存在可逆的维度减少技术列表（我可以在子流形和原始空间之间来回切换）并且可以很好地扩展到大（> 1百万维度）？矢量非常稀疏。理想情况下，我可以在少数示例中找到感兴趣的粗略子空间（减少到~10k维度），然后在子空间上训练类似自动编码器的东西以进行精细控制。

• 直接使用自动编码器可能不合适，因为具有> 1M输入大小的FC层在内存方面变得非常困难。
• PCA是一种选择，但占用的内存很大。
• 随机投影似乎没有办法恢复到原始空间？

谢谢！

Answer 1

来自scikit-learn的两位候选人（可能会有更多）：

• Incremental PCA：batch-like
• Truncated SVD：稀疏

还有更多的支持inverse_transform，但我只支持稀疏输入或批处理工作。

即使使用稀疏输入，保持10k维度听起来也非常耗费内存。