标签： computer-vision conv-neural-network transfer-learning
我找到了一个脚本，它提取 ResNet101 图像嵌入（预置的 Imagenet）以在更大的模型中进一步处理。该脚本提取第三个层块之后的特征，以 ReLU 结尾。这在图像嵌入中引入了大量稀疏性，几乎 60% 的特征为 0。我认为这种稀疏性使我的神经网络的进一步训练变得困难。因此我想知道，这种稀疏性是否可取，或者我是否应该关闭 ReLU 以获得更多非零特征。
TL;DR：图像特征嵌入应该稀疏吗？