CNN等神经网络的求和与连接之间的区别是什么？

Question

CNNs等神经网络的求和与连接之间有什么区别？

例如，Googlenet的Inception模块使用了连接，Resnet的剩余学习使用了总和。

请教我。

Answer 1

连接意味着连接两个blob，所以在concat之后我们有一个更大的blob，它包含连续内存中的前一个blob。例如：
blob1：

1
2
3

blob2：

4
5
6

blob_res：

1
2
3
4
5
6

求和意味着逐元求和，blob1和blob2必须具有完全相同的形状，并且得到的blob具有与元素a1 + b1，a2 + b2，ai + bi，... an + bn相同的形状。 对于上面的例子，
blob_res：

(1+4) 5
(2+5) 7
(3+6) 9