在设计具有多个输出的前馈神经网络时，在具有多个输出的单个网络和具有多个网络（每个网络具有单个输出）之间是否存在概念差异（除计算效率之外）？
虽然同一网络中的输出神经元不会“在运行中”相互影响，但它们确实会影响训练，因为每个输出的误差会反向传播并影响隐藏层的权重，从而影响隐藏层的权重。其他产出。
是否有任何问题可以更好地解决？直观地说，我认为单个网络更适合一次只有一个输出应该是活动的问题（即OCR），其中多个网络更适合同时多个输出可以同时激活的问题（即，当每个输出对应于某些特征时）在输入中，其中几个可以同时出现）。但这仅仅是直觉。它实际上是否成立？
答案 0 :(得分：3)
正如您自己所说，概念上的差异是联合训练与单独训练。我认为人们发现，在大多数情况下，如果问题是相关的，联合培训会有所帮助（例如，如果所有输出都是关于识别字符的话）。因此，无论多个输出是否同时处于活动状态，我认为在两个问题中你提到联合训练都会有所帮助。
联合训练无助且可能受伤的情况是任务完全没有关系，例如：如果一个输出是关于'字符a'而另一个输出是关于'声音x'。