tf.layers模块中的批量标准化

Question

我使用的是Tensorflow 1.0 tf.layers模块。但是，我很难理解在tf.layers.conv2d函数中应用批量规范化的位置。

如果我理解得很好，这个函数有L2 / L1的内核和偏置正则化器，以及一个活动正则化器。然而，我假设活动正则化器在激活函数之后而不是之前应用。因此，它可以用于辍学。我无法理解批量标准化的应用位置。我的想法是：

1. 是默认值并始终使用吗？
2. 我应该将激活功能应用为无，然后通过批量规范层传递结果然后单独激活吗？

第二个选项可行。但是，我觉得有一个更优雅的答案。