降维是否可逆?

时间:2015-06-30 10:37:20

标签: artificial-intelligence encog som dimensionality-reduction

我已经使用ENCOG实现了一个维度减少算法,它采用具有多个特征的数据集(称之为A),并将其缩减为仅具有一个特征的数据集(B)(我需要时间序列分析)。

现在我的问题是,我有一个来自B的值 - 通过时间序列分析预测,我可以将它转换回两个维度,就像在A数据集中一样吗?

2 个答案:

答案 0 :(得分:1)

不,降维一般不可逆。它失去了信息。

答案 1 :(得分:0)

降维(压缩信息)在自动编码器中是可逆的。自动编码器是常规神经网络,中间有瓶颈层。例如,第一层有20个输入,中间层有10个神经元,最后一层有20个神经元。当您训练此类网络时,您强制它将信息压缩到10个神经元,然后再次解压缩,最小化最后一层中的错误(所需输出向量等于输入向量)。当您使用众所周知的反向传播算法来训练此类网络时,它会执行PCA - 主成分分析。 PCA返回不相关的功能。它不是很强大。

通过使用更复杂的算法训练自动编码器,您可以使其执行非线性ICA独立分量分析。 ICA返回统计独立的功能。该训练算法搜索具有高泛化能力的低复杂度神经网络。作为正规化的副产品,您可以获得ICA。