1D CNN可以从其他两个包含的功能中推断出某个功能吗？

Question

我在时态数据上使用1D CNN。让我们说我有两个功能A和B. A和B之间的比例（即A / B）很重要 - 让我们称这个功能C.我想知道我是否需要明确地计算并包含特征C，或CNN理论上可以从给定的特征A和B推断特征C？

我理解在深度学习中，最好排除高度相关的功能（例如功能C），但我不明白为什么。

Answer 1

简短的回答是否定的。使用标准DNN图层不会自动捕获此A/B关系，因为像Conv/Dense这样的标准图层只会执行矩阵乘法运算。

为简化讨论，我们假设您的输入要素是二维的，其中第一维为A，第二维为B。将Conv图层应用于此功能只需学习权重矩阵w并偏向b

y = w * [f_A，f_B] + b = w_A * f_A + w_B * f_B + b

如您所见，此表示无法模仿甚至近似A和B之间的比率操作。

您不必像功能C和A一样使用功能B。相反，将功能C保留为单独输入可能是更好的主意，因为其动态范围可能与A和B的动态范围非常不同。这意味着您可以拥有一个多输入网络，其中每个输入都有自己的特征提取层，两个输入的结果特征可以连接在一起以预测您的目标。