Question

我对此感到困惑。假设我有一个权重矩阵W（10,20）。这需要20维输入向量（比方说X）。所以，dot（W，X）将是（10,1），为此我可以添加一个10维偏向量。

现在我想做批量学习。是否可以将一批输入向量（30个向量）相乘，使X现在为（20,30），然后点（W，X）为（10,30）。但是偏见呢。我应该如何调整偏见呢？

Answer 1

我假设所有30个输入向量的偏差相同。如果情况不是这样，请告诉我。

将您的(10,30)矩阵视为30个10维结果向量的集合。它们是独立的，它们只是排列成一个矩阵，便于处理。

如果要将10维偏差矢量添加到30个结果矢量中，您所要做的就是将10维偏差矢量复制30次到（10,30）偏差矩阵中。然后，添加矩阵将与向您的30个10维结果vectos中的每一个添加偏向量相同

您可以通过乘以

来获得此结果

<vertical bias vector>  <outer/tensor product>  <horizontal vector, filled with 30 ones>