批次大小-提高性能的一般规则

Question

如果我们有一个大小为 n 的数据集，选择好批处理大小是否有一般的经验法则？

例如：

我认为对于大小 10000 数据集，它将是：

• 批量大小为 2
甚至不切实际
• 对于批量大小为 100 或 200
的批次来说非常好
• 批次大小为 5000
的错误

当然，有多个因素在起作用，即确切的瓶颈在哪里，硬件/软件的使用等。因此，我真的只对通用规则感兴趣（如果有）。